「予測可能な将来」を見誤る危険
ナラヤナンとカプールの論文で、AIが「普通の技術」だという主張には、決定的な前提条件があると指摘する声がある。それは、AIの「予測可能な将来」についての予想だ。
論文の引用「『AIは普通の技術』という主張は3つの要素で構成される。現在のAIの記述、AIの『予測可能な将来』についての予想、そしてAIをどう扱うべきかという指針だ」。
歴史を通じて、いわゆる「予測可能な将来」に関する予想が大きく外れた事例は数多くある。従来のAIの予測可能な将来とは、私たちが控えめに進み、特に驚くべきではない控えめな進歩を見ることかもしれない。その場合、「普通の技術」と呼ばれるAIの「普通性」は保たれる。
しかし、もし私たちが、予測可能な未来の中でAIをより顕著に進歩させるなら、AIの従来の人間の制御を遥かに超える可能性が私たちを驚かせるかもしれない。想像してみよう。私たち全員が従来のAIを「普通の技術」として扱い、それに応じて通常の精査だけを適用することにしたとする。だが、予測可能な将来についての私たちの仮定を破り、大方の予想を裏切り、AIが私たちの扱える範囲を超えて大きくなる事態が出現するかもしれない。
AIの「予測可能な将来」に大きく賭けることは、かなりのリスクかもしれない。
抜本的な介入の軽視
従来のAIに関連する可能な抜本的介入を採用する意欲や準備を拒否するという、目立たない側面についても懸念の声が上がっている。例えば論文の中には以下のような主張が含まれている。
「私たちはAIを、自らの制御下に置き続けることができ、またそうすべきツールであると見なしており、この目標のために抜本的な政策介入や技術的ブレークスルーは必要としないと主張する」。
もし私たちが抜本的な政策介入は必要ないという考え方に陥るならば、抜本的な介入の必要性を見つける機会を失い、その結果、そのような介入を適時に特定し採用することが遅れたり、失敗したりするのではないだろうか。
おそらく従来のAIは、私たちが日常の生活と営みのために頼っている重要なシステムに注入されるだろう。そのような立場に置かれたAIは私たちをリスクにさらす。よって、何らかの形で劇的な政策介入を実行する必要があるかもしれない。しかし、「普通の技術」の視点は、おそらく劇的なものは必要なく、従来式の介入で十分だと私たちを納得させるかもしれない。
