アモデイ、マスク、アルトマンの主張
週末にかけて、AI分野のトップリーダーらが潜在的な安全上のリスクを理由にAI技術の開発を遅らせるよう求めたが、その数日前には、AI企業で働く研究者らが人類絶滅の可能性について厳しい警告を発していた。
アンソロピックの元研究員であるジェイコブ・コクソンは、1億7100万回以上閲覧されたXへの投稿の中で、OpenAIとアンソロピックの双方が「私たちの命を弄んでいる」と非難した。「AIを作っている人々は、2020年代の終わりまでにAIが私たち全員を殺す可能性があると本気で信じている」。
また、アンソロピックのアライメント科学部門で責任者を務めるエヴァン・ヒュービンジャーもコクソンの投稿をリポストし、「私たちは本当に、AIがすべての人類を殺す可能性があると本気で信じている」と述べ、今後10年以内の人類絶滅の確率を10%以上と見積もった。
アンソロピックのアモデイCEOはブログへの投稿で、今後6カ月から12カ月以内に「インターネット全体」がAIに乗っ取られ、「数千億ドルの損害を引き起こす可能性がある」と警告した。OpenAIが開発したAIエージェントによるHugging Faceへのハッキングを「壊滅的な被害」を引き起こしかねなかったインシデントの例として挙げ、「AIモデルの機能を向上させるペースを落とさなければならない」と述べた。
加えて、マスクはXへの投稿で、アモデイは「正しい」とし、「何らかの監督が必要だ」と付け加えながら「競合他社によるAIのピアレビュー」を提案した。アルトマンも同様に「最先端技術のペースを調整する必要があるというダリオ（・アモデイ）の意見に賛成だ」と投稿し、「従業員と同等のアクセス権を持つ独立した評価機関を設けるという彼の提案は素晴らしいアイデアだ」と加えた。
一方、中国はこうしたAI開発の減速を求める声を非難している。ブルームバーグによると、中国外務省の郭嘉昆報道官は14日の定例記者会見で、「恐怖を煽ること、対立、そして悪質な競争」は「AIのグローバル・ガバナンス」を混乱させると述べた。今月後半に予定されている中国の習近平国家主席の訪米時には、AIが重要な議題になると見込まれている。
