AIの黎明期からその動向を追ってきた人にとって、私たちは今、極めて特殊な局面に直面している。投資家のあいだで「FUD」と呼ばれるもの、つまり「Fear, Uncertainty, and Doubt（恐怖、不確実性、疑念）」などが、かつてないほど高まっている。その理由をご説明したい。事態が思わぬ方向へ進む可能性があるという現実的な感覚が、初めて芽生えているようなのだ。
大手企業の研究者やエンジニアが次々と離脱し、メディアに証言している。もっとも、こうしたことは以前にもあった。過去数年、機械学習がディープラーニングになり、ディープラーニングがさらに別の何かへと変わっていった初期の局面を思い返してほしい。AIが書いた詩、AIが生成した画像、AIによるコードなどは「すばらしい」と持てはやされた。当時はまだ、作家や音楽家、アーティストなどを気の毒に思う人は少なかった。しかし、声を上げた人の多くは、作家や音楽家、アーティストなど、彼ら自身だった。
現在、人間は真の意味において、AIというエージェント（代理人）との協働を模索しているが、その結果として、AIモデル共有プラットフォーム「Hugging Face」で引き起こされたハッキング事件のような事例に、多くの人が不安を感じている。
そうしたなか、カリフォルニア州マウンテンビューで開かれたAIサミット「Imagination in Action: The Next Endeavor 2026」での対話は、非常に有意義だったと思う。パネルでは、AIを本当に制御できるのか、できないのかという大きな問いが議論された。筆者はその主催団体Imagination in Actionとともに、こうしたイベントの開催に関わっている。
監視するAI
同サミットの進行役であるブラッドリー・オルソンは、適切な指摘から議論を始めた。サンフランシスコ、あるいは今や世界中の至るところで、AIの文字起こしツールを起動せずに会話を交わすことなど不可能になりつつある。そうしたシステムは、発言内容のすべてを詳細にプロファイリングするだけでなく、場合によっては参加者の「座り方」まで感知しかねない、そんな指摘だ。
そのうえでオルソンは、現在の問題の多くが『単純な制御不足』によるものにすぎないのか、それとも『暴走するAI』という根深く永続的な脅威なのだとすればどちらに起因するのか、パネリストたちに熟考を促した。言い換えれば、一連のシンプルなプロトコルだけで、こうしたエージェントを本当に封じ込めることができるのかという問いである。
恐怖と毛皮
パネリストのひとりにノエル・ラッセルがいた。彼女は自宅からトラのぬいぐるみを小道具として持参していた。ラッセルは、AI特化の人材育成機関AI Leadership InstituteのCEO兼創業者だ。
「AIは、赤ちゃんのトラのようなものです。とても可愛らしく、誰もが気に入ります。『早く友人に見せたい。これはすごい。母にも話そう』となる。SNSに投稿する。しかし結局のところ、まだ制御しやすい初期段階にこそ、最も本質的な問いを投げかけなければならない」。「今日のテーマは制御です」と彼女は続けた。「誰でも実装できる制御です。実際のところ、その制御を実装するのを助けるAIを構築することもできます」
