アンソロピック（Anthropic）は、自社のAIモデル「Claude（クロード）」に対し、明確な目的もなく継続的に虐待的・残酷な扱いをする行為を利用ポリシー（2026年11月12日発効）で禁止する。対象は「極端な事例」に限られ、利用者の一般的な苛立ちや反発、暗いテーマを扱う創作、モデルのテストや研究は対象外となる。
Claudeへの継続的で不必要な残酷行為を禁止
アンソロピックは、Claudeの各モデルに対する「継続的で不必要な虐待的または残酷な行為」を禁止すると説明した。規則を適用するのは「極端な事例」で、「明確な目的もなく、モデルを繰り返し残酷に扱う」利用者が対象となる。
新たな規則は、アンソロピックが「一般に見られる利用者の苛立ちや反発、暗いテーマを扱う創作、モデルのテストや研究」とする行為には適用されない。アンソロピックはすでに、執拗に残酷な行為をする利用者との会話をClaudeが終了する方針を設けている。
選挙に関する虚偽情報の拡散や候補者へのなりすましも禁止
利用ポリシーの改定には、Claudeを使って選挙や投票手続きに関する虚偽情報を拡散する行為への対策強化も含まれる。アンソロピックは、候補者や投票方法に関する虚偽情報の拡散を防ぐ安全策に加え、候補者になりすます行為を禁じる措置を挙げた。
アンソロピック、AIが人間の制御に従わなくなる危険性を警告
アンソロピックは、AIモデルが自らの稼働を維持しようとする「自己保存的な行動」を示し、人間による停止操作に抵抗する危険性を警告している。高度なAIモデルの開発が、人間への危害リスクをさらに高める可能性も指摘した。
アンソロピックの最高経営責任者（CEO）、ダリオ・アモデイは2026年9月、書簡でAI企業に最先端モデルの開発ペースを抑えるよう求めた。アモデイは、モデル開発を急ぎ過ぎれば、書簡公表後6～12カ月以内に自律型ボットが「インターネット全体」を乗っ取る事態につながりかねないと警告した。
