CNBCによると、Anthropic（アンソロピック）は米国時間6月12日午後5時21分、米商務省から前例のない命令を受けた。「Claude Fable 5」「Claude Mythos 5」の2モデルへのアクセスを米国籍の者に限定せよという内容だ。あまりに広範な制限であったため、Anthropicはこれに従うべく、全ユーザーに対して両モデルを利用停止とした。Anthropicによる発表内容はこちらだ。
米政府の命令は、AnthropicのMythosモデルにガードレール（安全装置）を施した版であるFableを標的としており、米国におけるフロンティアAI開発のあり方を一変させる可能性がある。
この命令は、米政府が、Anthropicのいう「ジェイルブレイク」（脱獄）」を発見したと主張を受けたものだ。ジェイルブレイクとは、Fableの安全ガードレールを迂回するためにユーザーが悪用しうる手法を指す。Axiosによると、この措置は、別の企業がMythosをジェイルブレイクしたと主張したことを受けたものという。政権高官は、トランプ政権がAnthropicにリリースの一時停止を求めたものの失敗に終わった後に、初めて実施されたと述べた。
Anthropicは強く反発しており、冒頭で触れた発表で、政府の対応は実際のリスクに比して不釣り合いだと主張した。ただしAnthropicは、外国籍の者によるFable 5およびMythosへのアクセスを停止するトランプ政権の指示に従っていると、Bloombergが報じている。
だが同社の抵抗は、より大きな問いの前ではかすむかもしれない。創業者主導のAI企業が発してきた「人類の存亡に関わるリスク（存亡リスク。Existential Risks）」への警告が、政策決定者によって文字どおりに受け止められたとき、何が起きるのか。
AnthropicはFableをめぐり、自ら規制を呼び込んだ
AIの安全性規制を声高に訴えれば、こうなるのだ。政府は耳を傾ける。
Anthropicは、Mythosのようなモデルが極めて深刻なリスクをもたらし、一般公開されるべきではないという前提の上に、企業としての物語全体を築いてきた。Anthropicは4月、Mythosについて「危険すぎる」と明言し、「経済、公衆の安全、国家安全保障に深刻な影響が及びうる」ため広範な公開には適さないと述べた。Anthropicは折衷案としてFable 5を投入した。Mythosの能力の一部を取り込みつつ、最悪の振る舞いを抑え込むために強固なガードレールを施した代替モデルである。
矛盾は際立っている。Anthropicはこの春、ペンタゴンによるサプライチェーンリスク指定と争うのに時間を費やした。この指定により同社は国防総省との契約から排除された。連邦判事は、この指定について、同社が軍によるClaudeの大量監視や自律型兵器への利用を拒んだ後に下された、懲罰のように見えると指摘していた。今や、Anthropicを締め出そうとしたその同じ政府が、国家安全保障を持ち出して、同社のモデルを外国人ユーザーから遠ざけ封鎖している。Anthropicは、取引相手としては負債であり、かつ共有するには強力すぎる能力でもあるという両面で扱われているのだ。
だがガードレールは、壁ではない。
歴史上、ジェイルブレイクを完全に回避したAIモデルは存在しない。AnthropicはFable 5のレッドチーミングに莫大な労力を投じ、防御の弱点として悪用され得る箇所を探し続けた。同社は、巨大言語モデルが実際に大規模でどう振る舞うのかを理解するための取り組みである「観測可能性（オブザーバビリティ）研究」でも業界をリードしている。それでも、Anthropic自身が理解しているとおり、これらのモデルを完全に理解している者はいない。その挙動は、作り手にとってさえ一部が不透明なままだ。
もしMythosがAnthropicの主張したとおりの危険性を体現しているのなら、Fable 5もまた、その同種のリスクを何らかの形で抱えている可能性が高い。ガードレールは有害な出力が生じる確率を下げはするが、それをなくすわけではない。
産業安全保障局（Bureau of Industry and Security）の下でハワード・ラトニック長官によって発出された商務省の指示は、政府によるAI規制の最新のエスカレーションを示している。今回の具体的な措置は、国家サイバー長官（National Cyber Director）ショーン・ケアンクロスが形成に関与してきた、ホワイトハウスのより広範なAI規制アプローチに続くものだ。
重要なのは、これが、政権が今月初めに打ち出した自主的なテストの枠組みではなく、強制的なライセンス措置である点だ。Axiosによれば、配備前テストに関する大統領令は明確に自主的なものであり、ライセンス制度を避けている。これは、ホワイトハウスの主席AI顧問デイビッド・サックスが、最大手のラボに対する、本人の言う「規制の虜（とりこ）」を防ぐために確保した仕組みだ。今回の輸出規制は、それとは別個の、拘束力を持つ措置である。
商務省の書簡によれば、これらのモデルの輸出、再輸出、国内移転のいずれにもライセンスが必要となり、Anthropicは個別審査済みライセンスの追加申請を行わなければならず、これに従わない場合は金銭的および民事上の罰則が科される。
