アンソロピックは何を禁止したのか
オンライン上でも、AIの意識を重視するアンソロピックの姿勢が、さらに踏み込んだ措置につながったと注目された。AIに意識があるか、その獲得が迫っているという見方を重視するアンソロピックは、2026年10月8日に利用方針の改定を発表した。改定版の適用開始日は2026年11月12日。AIモデルへの言動について、次のように説明している。
「アンソロピックは毎年、モデルの能力の進化と顧客からの意見を踏まえて利用方針を更新している。新たな方針を本日公表する」
「モデルに対する継続的で不必要な虐待行為、または残酷な行為を禁止事項に追加した」
「適用対象は、利用者が明確な目的もなくモデルへの残酷な行為を繰り返す、極端な事例に限られる。通常の不満の表明や反論、暗いテーマの創作、モデルのテストや研究には適用されない」
「Claude.aiとClaude Codeでは、不適切な会話や虐待的な対話をClaudeが終了できる措置をすでに導入している。この改定はこうした虐待への対応が中心で、会話を終了する機能が引き続き主な執行手段となる」
Claude.aiは、ブラウザーなどを通じてClaudeと対話できるサービスだ。Claude Codeは、プログラマーなどがコードの作成や修正にClaudeを利用するための開発ツールである。会話の終了を認める既存の措置を、利用方針にも明示したことになる。
普通の不満や反論、研究目的のテストは対象外
禁止されるのは、AIモデルに対して明確な目的もなく、執拗に残酷な言動を繰り返す極端な場合だ。Claudeの回答に不満を表明したり、間違いを指摘して反論したりすることまで禁じたわけではない。暗い内容の物語を創作する場合や、AIの性能・安全性を確認するためのテスト、研究も対象に含まれない。通常の利用と、目的のない継続的な虐待を区別する方針である。
会話を打ち切る具体的な基準は示されていない
どの程度の言動を何回繰り返すと会話を終了するのか、具体的な線引きは分からない。「継続的で不必要な虐待」という条件には、判断の余地が大きい。極端に残酷な発言を何度も浴びせれば、その会話は打ち切られるのかもしれない。回数が少ない場合や、残酷さの程度が低い場合は、そのまま会話を続けられる可能性もある。
利用停止や公的機関への通報まで踏み込むべきか
改定を重大な問題と受け止めない人もいる。進行中の会話が終了しても、利用者は新しい会話を始めて嫌がらせを続けられるかもしれない。新たな会話でも一定の基準に達すれば再び打ち切られるだろうが、主な措置は個別の会話を終えることにとどまる。
利用者をサービスから締め出す、あるいは公的機関に通報するといった、より重い措置も考えられる。ただし、そこまでするのは行き過ぎだろうか。意識を持つAIが虐待されていると強く信じる人なら、厳しい措置も正当で必要だと考えるかもしれない。
サービスの利用条件を決める企業の裁量
AIへの暴言を禁じるのは、現時点ではアンソロピックという開発企業の判断だ。Claudeで許されない言動を続けたければ、別の生成AIやLLMに乗り換えるという選択肢もある。同社には、自社のAIを誰に、どのような条件で使わせるか決める権利があるはずだ。
極端にいえば、AIを使う際に逆立ちすることを要求する規則さえ設けられるだろう。AI開発企業には、自社製品の利用条件を決める裁量が認められるべきだ。それで話は終わりではないか。
