元研究者がAI企業を批判、現職研究者は人類滅亡確率を10％超と推定
2026年9月8日、ジェイコブ・コクソンはAI企業の開発姿勢を批判する投稿を公開した。コクソンはOpenAIとアンソロピックの両社で勤務した経験を持ち、アンソロピックには短期間在籍した後に退社していた。
advertisement
コクソンは、AI企業が「自らの能力を高め続ける超知能の開発へ一直線に突き進み、我々の命を賭けている」と批判した。AI企業は責任ある行動を取っていないと主張している。
コクソンは、AI研究者はAIが「2020年代末までに我々全員を殺す可能性がある」と考えているとも述べた。自らの発言は「マーケティング上の演出」ではないと強調した。
コクソンの投稿を受け、エバン・ヒュービンガーが自身の推定を示した。ヒュービンガーはアンソロピックで、AIの機能を人間の目標や価値観に一致させる取り組みを率いている。
advertisement
ヒュービンガーは、AI開発が現在のような急速なペースで加速し続ける場合について言及した。2036年9月までに「AIが全人類を殺す」確率は10％を超えると個人的に考えていると述べた。
強力なAIを停止できるよう法整備を求める米議員
コクソンとヒュービンガーの投稿を受け、米議員からは、強力なAIを緊急時に停止できる仕組みを法律（AIキルスイッチ法案）で義務づけるべきだとの声が上がった。
バーモント州選出で無所属のバーニー・サンダース上院議員は、2人の投稿より前の9月3日、超知能を禁止する法案を提出する方針を表明していた。この法案では、高度なAI開発を一時停止することも盛り込むとしていた。
トランプ大統領は米国でのAI開発と中国との競争を後押し
ドナルド・トランプ大統領は、米国でのAI開発を強く支持している。米国内の地域社会にデータセンター建設を受け入れるよう促し、中国とのAI開発競争を後押ししてきた。
