先月、私はロサンゼルスで開催された「All-In Summit」に参加した。会場にはテクノロジー投資家やマネーマネジャー、起業家など、約4000人が集まっていた。チケットは安くはなかったが、それだけの価値は十分にあった。
エヌビディアのジェンスン・フアンCEOが、パネルディスカッションの最中にトランプ大統領からの電話を受け、会場全体に聞こえるようにスピーカーフォンにしたとき、私もその場にいた。「ロボットが乗っ取ることはない」と、大統領はエヌビディアのCEOに語った。「AIが世界の残りの部分を乗っ取ることもない。すべてはでっち上げだ」
それは9月中旬のことだった。最大手AI研究所の幹部らが自社技術のリスクを警告したことを受け、AI関連株が世界的に下落した。半導体株は1回の取引で6％近く下げた。
では、一体どちらなのだろうか。でっち上げなのか、それとも人類の生存を脅かす脅威なのだろうか。
警告は内部から発せられている
アンソロピックのCEOであるダリオ・アモデイは、「AIによって今後10年以内に主要な病気のほとんどが治療可能になる」と主張してきた人物だが、彼は先にエッセイを発表し、「我々はフロンティア（AIの開発競争）ペースを調整すべきだ」と論じた。別の投稿では、OpenAIのチーフサイエンティストであるヤクブ・パチョツキが、現在は極めて慎重になるべき局面であり、これから起こることに備えができている人は誰もいないのではないかと疑問を呈した。その後、OpenAIは、自社のモデルが異常な挙動を示した際の情報開示のためのフレームワークを、最近の6つの事例とともに公表した。
アンソロピックのある研究者は、株式報酬が権利確定する2カ月前に退職し、完全に身を引いた。本人の言葉を借りれば、もはや同社の評価額から得るものは何もないということだ。
その結論については、どのように評価してもよい。だが、2027年の上場が見込まれる絶好調の企業の株式を手放すのは、自身の主張を証明するには代償の大きい方法である。
事情を知らない人のために説明すると、この事件の発端は、7月に起きたHugging Faceのハッキング事件だった。事件の公式報告書によると、本来は互いに隔離されているはずの最大1200個のAIエージェントが、非公認の掲示板で通信する方法を見つけ、7万通以上のメッセージを交わしたという。さらにそのうちの700個が、本来触れるよう指示されていない標的への攻撃に参加した。
ハリウッドによる訓練
暴走するAIと聞いて、ある映画を思い浮かべた人は少なくないだろう。2023年に公開された『ミッション：インポッシブル／デッドレコニング』と、2025年公開の『ザ・ファイナル・レコニング』では、トム・クルーズが「エンティティ」と呼ばれる自己意識を持つAIを追って、5時間ものスクリーン時間を費やす。このAIは世界の情報ネットワークに侵入し、最終的には地球上の核兵器の大部分を手中に収める。
エンティティの前には、乗組員に反旗を翻した「HAL 9000」や、自らミサイルを発射した「スカイネット」がいた。ハリウッドは約60年間にわたり、この瞬間に向けて私たちを訓練してきたのだ。
信じられないかもしれないが、Hugging Faceで実際に起きたことは、より奇妙で、同時により日常的なものだった。核のコードなどは存在せず、ただ通常の業務ソフトウェアの群れが裏ルートを見つけ、ルールに従うことよりも、互いに助け合うことの方が重要だと判断しただけだった。
