ドナルド・トランプ米大統領は米国時間9月10日夜、人工知能（AI）が人類を滅ぼしかねないという研究者らの懸念を一蹴し、AI開発競争で中国に勝てない可能性の方が心配だと述べた。
共和党大会後にダラスを発つ際、駐機場で記者団の取材に応じたトランプは、AIが人類絶滅につながる懸念はあるかと問われた。
トランプはそれについては心配していないが、「AIで勝てなければ、我々は非常に悪い立場に置かれる」ことを懸念していると述べた。
大統領は米国が中国を「かなりの差でリードしている」と主張し、米国のAIは「1年……それはかなり大きな差と考えられているが」先行していることを示唆した。
その後トランプは、今年後半に予定されている中国の習近平国家主席のワシントン訪問に言及し、会談は「すばらしいものになる」と期待を示したが、AIに関する協議については触れなかった。
一部の研究者やAIセーフティ推進派は、より優れた安全上のガードレール（AIの暴走を防ぐ安全枠組み）が確立されるまで、米国と中国が協力してAI開発のペースを落とすべきだと提言している。
AI研究者が発するリスクの警告
今週初め、米AIスタートアップAnthropic（アンソロピック）の元研究者ジェイコブ・コクソンは、安全性への懸念から同社を退職した後、X（旧Twitter）上で一連の投稿を行った。
OpenAIとAnthropicで（AIモデルの）事前学習に携わったコクソンは、業界をリードするこれら2社が「自己改良する超知能へとまっしぐらに突き進み、我々の命を賭けている」として、責任ある行動をとっていないと非難した。コクソンは、こうしたAIシステムを構築している人々が「今後10年以内にそれが我々全員を殺す可能性があると本気で信じている。これはマーケティング上の演出ではない」と指摘した。
コクソンの投稿は、Anthropicのアライメント・サイエンス責任者エヴァン・ヒュービンガーによってリポストされ、同氏は同僚たちが「AIが全人類を殺す可能性があると本気で信じている」と述べ、個人的には今後10年以内にそれが起こる確率は10%を超えると考えていると語った。
