アンソロピックは米国時間2026年9月10日、同社のAIモデル「Claude（クロード）」を生物兵器の開発に利用しようとした可能性がある複数のアカウントを利用停止にしたと発表した。同社は、この措置に関する調査結果も公表した。2026年9月8日には、AI研究者2人が、高性能化が進むAIによって人類が滅亡する可能性に警鐘を鳴らしていた。
Claudeに助成金申請書の作成支援を依頼、ウイルスの有害性を高める研究を計画
アンソロピックは9月10日の報告書で、科学研究向け助成金の申請書を作成するため、Claudeに支援を求める依頼を遮断したと明らかにした。申請された助成金は、蚊が媒介するチクングニアウイルスを遺伝的に改変する研究に充てる計画だった。
アンソロピックによると、チクングニアウイルスの死亡率は非常に低いが、長期にわたる関節痛や筋肉痛を引き起こす。同社は、この種の研究にはワクチンや治療法の開発に役立つ可能性もあると説明している。今回の申請は、ウイルス自体をより有害にする研究への助成を求めるものだった。
民間研究者の関与を示す申請書、研究先は軍の研究機関
アンソロピックが計画を見かけほど無害ではないと判断した理由の1つは、研究の実施場所だった。助成金申請書では民間研究者の関与が示唆されていたが、研究自体は軍の研究機関で実施する計画になっていた。
この研究は、ウイルスをより危険にする目的にも利用できる。アンソロピックは研究内容と実施場所を踏まえ、計画への警戒を強めた。
関連アカウントと利用制限を回避する中継ネットワークを停止
アンソロピックは、関与した可能性がある機関や研究者について、名称や氏名、所属関係を明らかにしていない。関連するすべてのアカウントを利用停止にした。地域別の利用制限を回避するため、接続を中継していたネットワークも停止した。調査結果は他のAI研究機関と米連邦政府にも共有したとしている。
アンソロピックは報告書で、「研究資料が存在していたことから、研究活動は助成金申請だけにとどまっていなかったと推定している」と説明した。「この一連の活動に関連すると検知したアカウントを利用停止にしている」とも述べた。調査で得た知見を新たな対策に反映し、サービスの悪用を検知・防止する取り組みも続けているとしている。
