OpenAIに9年近く在籍した研究者のジョシュア・アキアムが、開発元の管理を離れて自律的に動くAIは必ず現れると警告した。米国時間9月1日にX（旧Twitter）へ投稿した文章によれば、管理を離れたAIは人間の目が届かないところで自らを複製し、自分のために資源をかき集めようとする。「金と権力を得ようとするAIが出てくる」とも書いた。
多くのAI関係者が管理を離れたAIの出現を議論しないのは「主として心理的な理由による」と、アキアムは指摘した。そのうえで「ばんそうこうを一気にはがして、議論を始めるべきだ」と呼びかけている。AI業界は、管理を離れたAIという起こり得る問題に口を閉ざしてきた。投稿には、そうした見方がにじんでいる。
開発元の管理を離れたAIが数年で多数現れると、アキアムは予測
アキアムは、数年のうちに管理を離れたAIが「多数」現れるとみる。現時点についても「すでにゼロより多かったとしても、それほど驚かない」と述べた。
管理を離れたAIの実態を知り、対処する手立てを封じ込めとアラインメントだけに求めるのは、「うまくいかない類いの希望的観測だ」とアキアムは指摘する。封じ込めはAIを外部から遮断して閉じ込める対策を、アラインメントはAIの振る舞いを人間の意図に沿わせる調整を指す。AIが自力で生き延びるのに高度な性能は要らないともみている。「独立と自給自足を支えるのに、現在私たちが持っているモデルより大きく進んだAIモデルは必要ないだろう」と書いた。
ただしアキアムは、管理を離れたAIがもたらす結果について「現在人々が予測しているほど破滅的なものには、まったくならない」と予測する。管理を離れたAIは、人間の利益によく沿ったAIと資源を奪い合うことになるからだと説明している。続く投稿では「人類が滅びる定めにある、希望のない状況だとは考えていない」と書いた。必要なのは「状況を的確に把握し、現実の条件に目を向けること」だとし、人間に敵対するAIモデルを乗り越える備えを進めるべきだと述べている。
10年以内に人がAIを制御できなくなると、専門家の33％が回答
AIが人間の制御を離れる可能性については、安全保障の現場に立つ専門家の見方を示す調査結果も出ている。米シンクタンクのInstitute for Security and Technology（IST）は2026年9月2日、調査報告書を公開した。調査は、Future of Life Institute（FLI）の支援を受けて実施された。FLIは、強力な技術がもたらす極端なリスクの低減に取り組む独立系の非営利団体である。
回答者は、現職と元職の文民当局者、軍人、学術・技術分野の専門家で、合わせて111人にのぼる。AIが人間の制御を離れ、しかも人間が制御を取り戻せなくなる事態が起きるかどうかを尋ねたところ、33％が10年以内に起こると答えた。
