アンソロピック研究者の退職についてわかっていること
ウォール・ストリート・ジャーナルは、人類を脅かし得る自己改善型AIシステムの構築推進への懸念を理由に、コクソンがアンソロピックを退職することを最初に報じた。コクソンは同紙に対し、世界は「これらのシナリオのうち最も攻撃的なものの多く」に向かっており、「来年末までにすでに制御不能になっている可能性がある」と考えていると語っている。
コクソンはXへの投稿で、OpenAIとアンソロピックで働いた経験を比較し、ChatGPTの開発元のスタッフは「文明の存亡がかかっているというリスクの深刻さを痛感していない」と指摘した。
一方アンソロピックではその賭け金が「よく理解されている」としつつ、同社は「他の誰も責任ある行動を取らないため、リスクがあるにもかかわらず自分たちでやらなければならない」と考え、「そこへ最初に到達する競争に閉じ込められている」と述べた。
AI開発の減速を求めるAI研究者や経営幹部の動き
今回の深刻な警告と退職は、先進的AI開発の減速を求める一部の主要AI研究者や経営幹部の動きを背景としている。7月には、「Pacing the Frontier（フロンティアの歩調を整える）」と題した声明に、アンソロピック共同創業者のダリオ・アモデイとジャレッド・カプラン、OpenAIのチーフサイエンティストであるヤクブ・パホツキ、Meta AIのチーフサイエンティストであるシェンジア・ジャオら、複数のAI分野の有力者が署名した。
この声明は、「AIの可能性を実現するために、産業界、政府、そして社会全体は、新たに生じるリスクに対処し、安全対策を開発し、監督を強化するための時間を確保する選択肢を必要とするかもしれない」とした一方で、企業が単独でそうした行動を取るには激しい競争圧力に直面していると警告している。
声明は米国政府に対し、「自動化されたAI開発のフロンティアの歩調を意図的に調整するために必要な技術的およびガバナンス上のツールを開発する国際的取り組み」を支援するよう促した。9月6日付けのブログ投稿で、パホツキもこうした警告に同調し、「どの研究所も、責任ある形で開発速度を維持できるほど、アラインメント技術は成熟していない」と考えていると述べた。
