AI開発の減速を巡り、安全性と中国との競争力維持が対立軸に
AIフォース構想の表明に先立ち、AI企業の研究者やCEOからは深刻な警告が相次いだ。AIの能力向上が速すぎて、開発企業自身がAIの仕組みを十分に理解し、その挙動を制御できなくなるとの懸念が出ている。安全策を整備する時間を確保するため、意図的に開発速度を落とすよう求める経営者もいる。
これに対し、トランプや開発減速に反対するAI業界の幹部は、開発速度を落とせば米国が競争上の優位性を失い、中国に先行されると主張している。
AI企業の研究者、AIが人間の意図から外れて行動する危険を警告
9月上旬から、AI企業の現職研究者や元研究者による強い警告が相次いだ。アンソロピックとOpenAIの元研究者ジェイコブ・コクソンは、開発者が「AIは2029年末までに我々全員を死なせる可能性があると本気で考えている」と述べた。アンソロピックのエバン・ハビンガーは、人間が望む目標から外れた行動を取るAIによって、2036年までに人類が絶滅する確率を10％超と見積もっている。
アンソロピックのアモデイCEO、共通の安全基準を整えるためAI開発の減速を要求
こうした警告を受け、アンソロピックCEOのダリオ・アモデイは「最先端AIの開発速度を調整しなければならない（We Must Pace the Frontier）」と題する論考を執筆した。安全策と規制の整備がAIの急速な開発に追いつかず、「壊滅的な被害」が生じる可能性があると警告している。共通の安全基準を設ける時間を確保するため、競合各社には「均衡の取れた速度」でAIを開発するよう求めた。サム・アルトマンとイーロン・マスクも、この要請に同調した。
トランプや業界幹部は中国とのAI競争を理由に開発減速に反対
トランプは、AI開発を意図的に遅らせるよう求める声を明確に拒否している。AIによる人類絶滅より、米国がAI競争で敗れることを問題視し、「AI競争で勝てなければ、非常に悪い立場に置かれる」と述べた。エヌビディアCEOのジェンスン・フアンと、大統領科学技術諮問会議（PCAST）共同議長のデイビッド・サックスも、意図的な開発減速には反対している。
シリコンバレーでは、サックスのほか、億万長者のマーク・アンドリーセンとベン・ホロウィッツも、AI規制を抑えるトランプの方針を支持している。トランプは中国との競争について、「我々は中国、そして世界の他国をリードしている。この状態を維持するつもりだ！」と投稿した。
