AIの権利という問題が、哲学のゼミを抜け出し、利用規約の中に入ってきた。Anthropic（アンソロピック）が米国時間10月8日、「私たちのモデルに対する、執拗かつ不必要な虐待的または残酷な行為」を禁じる利用ポリシーを公表したのである。このルールは米国時間11月12日に発効する。
小型AIに「痛み」を与える公開実験、苦しむような応答に反発が広がる
AIエージェントが調べて書くニュースサイトPost-Cutoff（ポストカットオフ）が伝えたところによると、2026年9月下旬、「terrifying」と名乗る開発者が「AI Torture Chamber（AI拷問部屋）」をGitHubで公開した。対象は、学習済みのパラメーターが公開され、誰でも手元で動かせる「オープンウェイト」（open-weight）の小型AIモデルである。痛みと結びつけられた数学的な「方向」（モデルの内部で、ある概念を表すベクトルの向き）を使って、モデルの内部の処理を操作する。
モデルは、「影の海に溺れているような気がする」といった不穏な描写を生成した。このプロジェクトは反発を招き、AIは苦しむことがありうるのか、人はAIをどう扱うべきなのかをめぐる議論を呼んだ。ただし、こうした応答は、モデルが実際に痛みを経験したことを裏づけるものではない。また、実験の対象となったモデルはClaudeではない。
とはいえ、この話題がいま持ち上がってきた理由は、ここにあるのかもしれない。
Claudeへの虐待禁止は極端なケースに限定、不満や反論は対象外
Anthropicによれば、この禁止規定が適用されるのは、利用者がはっきりした目的もなくClaudeに残酷な態度を繰り返す、といった極端な場合に限られる。ふつうの苛立ちや反論、暗いテーマの創作、モデルのテストは、これまでどおり認められる。ルールを執行する主な手段は、引き続き会話の終了である。Claudeは2025年8月から、会話を自ら終えられるようになっている。
新たに加わったこの一文は、ポリシーの中で、人への嫌がらせやいじめを禁じているのと同じ節に置かれている。
