それは、米政府がAnthropic（アンソロピック）の最新AIモデルに無効化を命じる数時間前のことだった。同社の最高商務責任者（CCO。Chief Commercial Officer）が、これほど強力なツールを公開することの「トレードオフ」についてForbesに語った。
米政府命令でFable 5を無効化、脱獄リスクにAnthropicが反論
米国時間6月12日の夜遅く、Anthropicは驚きの発表を行った。数日前にリリースしたばかりの新モデル「Fable 5」を、国家安全保障上の懸念を理由とする米政府の命令を受けて無効化するという。Fable 5は、Mythosモデルに安全対策を施したバージョンである。Mythosは4月に初めて公開された際、あまりに強力だと見なされ、サイバーセキュリティ上の脅威をめぐって広範な警戒を引き起こした。
Anthropicは6月12日の声明で、政府がFable 5の安全対策を回避する「脱獄（jailbreaking）」手法を把握したとの見方を示した。同社は命令に従う一方で、反論も展開した。「限定的な潜在的脱獄の発見を理由に、数億人に展開された商用モデルを回収するべきだという判断には同意しない」と同投稿は述べる。「この基準が業界全体に適用されるなら、すべてのフロンティアモデル提供者における新モデルの展開は、実質的に停止すると考える」。
命令直前、CCOが語ったFable 5公開と安全策のトレードオフ
米政府命令の数時間前、最高商務責任者のポール・スミスはForbesのインタビューで、これほど強力なツールを世に出すことに伴う「トレードオフ」について語っていた。Anthropicによれば、政府からの書簡を6月12日午後5時21分（米東部時間）に受け取ったという。
「こうしたことは判断の問題になる」とスミスは言う。「最も安全なのは、人々に何も使わせないことだ。そうすれば完全に安全だ。だが、それでミッションにどう貢献できるのか。Mythos級の知性から人々が本当の価値を引き出す助けになるのか」。
もちろん、彼がこの命令について話していたわけではない。命令はまだ出ていなかった。スミスの発言は、Anthropicの安全対策が行き過ぎているという一部ユーザーの不満への回答だった。とりわけ生物学（生物兵器に使われ得る）やサイバーセキュリティに関するプロンプトに対し、あまりに多くの制限を課した結果、モデルが無力化されたという批判である。「ここ数日から数週間の間に、そうした分類器を調整し、ユーザーにとってより滑らかでシームレスな体験にするために、強度を下げていける。ただ、我々が綱渡りで狙っているのは、そういうバランスだった」と彼は続けた。
政府の規制強化と、ホワイトハウスのAI政策責任者による批判
それでもスミスの認識は、Anthropicと政府との最新の衝突を捉えるうえで有益なレンズとなる。政府は2月、連邦政府でのAnthropic製品の使用を禁じようとし、6月12日には外国籍の人物によるMythosの使用を禁止した。Anthropicの目標は、ツールを世に出し、可能な限り安全に運用することにある。ただし同社は、常にリスクがあることも認めている。
ホワイトハウスのAI政策責任者デイビッド・サックスは同意しない。「これまでAnthropicは、安全性が最優先であり、極めて真剣に扱われなければならないと常に言ってきた。この件では、Anthropicは安全性よりも消費者向けモデルの提供継続を優先した」と、彼は6月13日にXへ投稿した。
Anthropicはブログ投稿以外で、この状況についてのコメントを控えた。
モデル無効化の決定が、業界全体に波紋を広げる
一方、モデル無効化の決定は業界全体に波紋を広げている。一部のAnthropic顧客にとっても寝耳に水だった。AIコーディング企業ReplitのCEO、アムジャド・マサドは6月12日深夜、Xに「Fableへのアクセスを停止しなければならなさそうだ」と投稿した。ReplitはAnthropicのモデルへのアクセスをユーザーに提供している。
アマゾンのアンディ・ジャシーなど、テック幹部が事前にトランプにリスクを警告
事情に近い関係者を引用したロイターの報道によると、複数のテック企業幹部がAnthropicの最新モデルのセキュリティリスクについてトランプに懸念を伝えていたという。その中にはアマゾンのアンディ・ジャシーも含まれる。
