AI開発の減速を求める動き
週末、アンソロピックのCEOでビリオネアのダリオ・アモデイは、主要AI企業に対し、フロンティアモデル開発のペースを意図的に減速するよう促し、適切な安全ガードレールなしにより高度なモデルを構築する動きが野放しになれば、世界のインターネットインフラを脅かす可能性があると警告した。アモデイの呼びかけは、アンソロピックの主要ライバルであるOpenAIのサム・アルトマンCEOとxAI創業者のイーロン・マスクの支持を得ている。
『We Must Pace the Frontier（最先端技術の開発ペースを調整しなければならない）』と題したブログ投稿で、アモデイは最先端AIモデルの進化は予想を大幅に上回るスピードで進んでおり、それらを安全にする取り組みが追いついていないと警告した。アモデイは、現在の開発ペースを続ければ、6～12カ月以内に自律型ボットがインターネット全体を掌握する可能性があると警鐘を鳴らした。アルトマンはXへの投稿でアモデイの発言を支持し、両社は自社モデルに対する第三者による監視を強化することで合意した。マスクは「ダリオの言う通りだ」と投稿したが、自身の会社であるxAIを代表して同様のコミットメントを行うまでには至らなかった。
アモデイの投稿は、アンソロピックの元研究者が同社を退社後、AIによる人類絶滅について警告するX投稿を拡散させた数日後のことだ。この研究者であるジェイコブ・コクソンは一連のX投稿で懸念を表明し、OpenAIとアンソロピックの両社が「自己改善する超知能に一直線に向かい、われわれの命を賭けている」として、責任ある行動を取っていないと非難した。
同氏はさらに、AIを構築している人々は、それが「2020年代の終わりまでにわれわれ全員を殺す可能性がある」と信じており、これは「マーケティング上の演出」ではないと付け加えた。アンソロピックでアラインメント科学部門を率いるエヴァン・ハビンガーはコクソンのX投稿を再共有し、自身と同僚は「AIが全人類を殺す可能性があると本気で信じている」と書き、個人的には今後10年以内にそれが起こる確率は10％を超えると考えていると述べた。
