今週、Anthropic（アンソロピック）のCEOダリオ・アモデイは、超人的AIが早ければ2027年にも到来し、人類文明が「現実の危険」に直面すると警告する38ページのエッセイを公表した。アモデイは、これを「この100年で、場合によっては史上最大の国家安全保障上の脅威になり得る」と述べた。
『The Adolescence of Technology: Confronting and Overcoming the Risks of Powerful AI』（技術の思春期：強力なAIのリスクに向き合い、克服する）と題するこのエッセイは、2024年10月に発表した自身の論考『Machines of Loving Grace』（慈愛に満ちた機械）の楽観的な論調からの転換を示す。前作ではAIが病気を治療し寿命を延ばすという楽観的なビジョンが描かれていた。また、最近発表されたAnthropicの指標では、AIと雇用の関係について、「AIが雇用を破壊する」といった終末論ほど単純ではない見通しが示されていた。
以前の約1万4000語のマニフェストは、AIが100年分の医療の進歩を5〜10年に圧縮し、がんや感染症をなくしつつ、メンタルヘルスの課題にも対処する姿を思い描いていた。これに対して新しいエッセイは、ビジョン声明というより、アモデイが「危険なほど準備不足だ」とみる政策立案者、テック業界のリーダー、消費者に向け、強い警告を突きつける内容になっている。
アモデイは、カール・セーガンの『コンタクト』の一場面を軸に据える。そこでは、人類の代表が宇宙人の来訪者にこう尋ねる。「どうやったのですか？ どう進化し、この技術的な思春期を自滅せずにどう生き延びたのですか？」。
アモデイはこう書いている。「私は、私たちが通過儀礼に入ろうとしていると信じています。混乱を伴いますが不可避で、種としての私たちが何者であるかを試すことになるでしょう」「人類には、ほとんど想像を絶する力が手渡されようとしています。そして、その力を振るう成熟度を、私たちの社会的・政治的・技術的システムが備えているのかは、不透明です」。
データセンターの中の「天才たちの国」
アモデイは鮮烈な思考実験を示す。2027年、世界のどこかに、ノーベル賞受賞者の誰よりも有能な5000万人が出現すると想像してほしい。これらの「天才」は人間の10〜100倍の速さで作業でき、監督なしに、複雑な課題に何時間、何日、あるいは何週間も自律的に取り組める。
アモデイはこう書く。「さらに想像してほしいのです。AIシステムは人間より何百倍も速く動作できるため、この『国』は他のすべての国に対して時間的優位を持ちます。つまり、私たちが1回の認知的行動をとる間に、この国は10回とれるのです」。
アモデイによれば、これが迫り来る状況である。これが彼のいう「強力なAI」──生物学、プログラミング、数学、工学、文章作成の各分野で世界最高の科学者より賢く、既存の物理的ツールを制御し、新たなツールを設計する能力を持つシステム──の定義だ。
アモデイは続ける。「この比喩は完全ではありません。なぜなら、これらの天才は、完全に従順で言うことを聞くものから、動機が奇妙で異質なものまで、動機や行動の幅が極めて広い可能性があるからです」。
指数関数的な進歩が続くなら、「実質的にあらゆること」でAIが人間を上回るまで、せいぜい数年しかかからないはずだと、アモデイは自身の個人サイトに掲載したこのエッセイで述べている。
タイムラインが差し迫る理由としてアモデイが挙げるのは、AIがすでにアンソロピックのコードの多くを書いていることだ。AIが次世代のAIを作るという構図である。アモデイは、この自律的な開発サイクルが完全に閉じるまで1〜2年になり得ると見積もる。
アモデイはこう書く。「アンソロピックの内部からこの5年間の進歩を見てきて、さらに今後数カ月のモデルがどう形になっていくかを見ていると、進歩の速度と、刻一刻と迫る時計を感じます」。
