安全策だけでMythosとFableとを分けた設計が生んだ、政策の罠
複雑なのは、Anthropic自身が政府による輸出規制の根拠を作りやすくしてしまったことだ。6月9日のローンチ発表において、Anthropicは、FableをMythosクラスのモデルと説明した。従来のClaude（クロード）モデルよりも長時間自律的に動作でき、Mythos 5は「世界のどのモデルよりも強力なサイバーセキュリティ能力」を持つと述べた。さらに事態を複雑にしているのは、誰でも利用できるFableと厳しく制限されたMythosが同じ基盤モデルを共有しており、違いは安全策だけだと説明していたことだ。
技術自体に自己規律を担わせることに依存したこの設計は、政策上の罠を生んだ。同じエンジンが、信頼された経路ではより緩い制動で動くのだとすれば、規制当局は、その制動が外されるのではないか、回避されるのではないか、悪用されるのではないかと問うだろう。Anthropicの反論は、米英当局、民間の第三者機関、社内チームとともにFableを徹底的にテストしたというものだった。万能のジェイルブレイクを見つけたテスターはいなかったと同社は述べた。
この主張は手続き論的なものだ。Anthropicはリスクを否定しているわけではない。米政府によるAIモデルへの規制上の介入基準に異議を唱えているだけであり、「あり得る」と「証明された」とを同一視すべきではないと論じている。Anthropicは、開示されたジェイルブレイクは無害か軽微であり、Mythos特有の性能向上は伴わないと記した。また、限定的なジェイルブレイクで商用モデルが阻害されるのなら、同じ基準が同社のあらゆるモデルリリースに適用され得ると警告した。では、この場合、誰を信じるべきなのか。モデルを構築し販売する企業か、それともアクセスを制限または許可する上で異なる動機を持つ政府か。
30日間のデータ保持が利用を制約し、顧客が反発
今回のアクセスをめぐる争いは、Anthropicにとって重要な時期に起きている。6月初旬、同社はIPO（新規株式公開）に向けたS-1の草案を秘密裏に提出し、SEC（米証券取引委員会）審査後に上場する選択肢を得ていた。また、Fableのデータ規則をめぐる顧客との摩擦にも対処していた。AnthropicはMythosクラスのモデルの全トラフィックについて30日間の保持を義務づけており、これはジェイルブレイクの調査と緩和に必要な変更だと説明している。The Vergeとロイターの報道によれば、マイクロソフトはデータ保持への懸念から、従業員によるClaude Fable 5の利用を制限していた。
政府による制限や規制が加われば、AIモデルの利用はさらに複雑になる。銀行、法律事務所、ソフトウェア企業、研究機関にとって、アクセスのリスクは今やレイテンシー（遅延）、価格、精度、セキュリティと並んで検討項目に加わっている。高リスクの回答に結びつくプロンプトに対して、応答の質を意図的に劣化させるというAnthropicの計画には、即座に反発が起き、ひどい、ユーザーに敵対的だとする声も出ている。
推進（AI企業）・規制（政府）・顧客の対立
もう1つの皮肉は、Anthropicが長らく、より厳格なAI監視を主張してきたことだ。ロイターによると、同社は最近、許容できないリスクを持つモデルをブロックする（差し止める）権限を含む、より強い米国の監視を求めていた。しかしAnthropicは、今回の米国の輸出措置は公正で事実に基づく基準を満たしていないと述べている。
一方には、AIモデル企業に多大な収益をもたらし、ユーザーに恩恵を与え得る強力なモデルへのアクセスを拡大したいという欲求があり、他方には、安全保障や主権の問題からアクセスを制限したい規制当局がいる。この両者の緊張関係こそが、現在中心的な物語になりつつある。AI企業は、競争的な速度でより強力なモデルを次々と公開し続けたい。政府は、サイバー攻撃、生物学研究、軍事計画に資する可能性のあるシステムを統制したい。そして顧客は、組織変革を加速するためのアクセスが、一夜にして消えないことを望む。
Fable 5は復活するのかもしれない。Anthropicはアクセスを復旧する方法を模索していると述べている。より修復が難しのは、ユーザーと政府の信頼だろう。フロンティアAIは、製品カテゴリーから戦略資産へと移行した。一般的なソフトウェアというより、航空宇宙、暗号、核関連の計算に近い存在になった。そして争点はFableだけではない。
政府統制の影は、今やあらゆるフロンティアAIモデルの上に垂れ込めている。勝者として浮上するのは誰か──グローバルな野心を抱く数十億ドル規模の企業か、組織を変革して生産性を高めたいユーザーか、それとも技術がどこへ行けるのか、誰が使えるのか、いつアクセスを止めるべきかを決める権限を持つ政府か。
