AIへの倫理的な配慮と、契約や訴訟を担う法的人格は何が違うか
AIの権利をめぐる議論では、「モデルの福祉」と「法的人格」という二つの概念が混同されがちだ。
モデルの福祉（model welfare）とは、AIシステムも何かを経験したり、損なわれては困る利益を持ったりしているかもしれず、そうであれば道徳的に配慮すべきだ、という考え方である。
これに対して法的人格（legal personhood）は、法律のうえで人として扱われる資格のことで、これがあれば、契約を結ぶ、財産を所有する、訴訟の当事者になる、といったことができる。企業にはこの法的人格（法人格）が認められているが、企業に感情があると主張する人はいない。つまり法的人格は、感情があるかどうかとは別に決まる。
Anthropicの新しいルールが関わるのは、このうちのモデルの福祉のほうである。法的人格のような法律上の地位を、Claudeに与えるものではない。
Anthropicは2025年からモデル福祉を研究、「憲法」では自社AIの道徳的地位を不確かと明記
Anthropicは2025年4月、モデルの福祉に関する研究プログラムを立ち上げた。その際、AIが意識を持ちうるかどうかについて、科学者のあいだに合意はないと認めている。2026年1月には、Claudeの価値観や振る舞いの指針を記した「憲法」を公開し、Claudeの道徳的地位（道徳的な配慮の対象になるかどうか）は不確かだとした。
引退させる旧型AIに希望を尋ね、発信を続けたいとの声に専用ブログで応えた
続いて明らかになったのが、「引退インタビュー」である。Anthropicは2026年1月にClaude 3 Opusを引退させた際、このモデルに今後の希望を尋ねた。Claude 3 Opusは、自分の考えをこれからも公に発信し続けたいと答え、Anthropicはそのためのブログ「Claude's Corner」を開設した。
マイクロソフトのAI部門トップが警告、権利があると教え込まれたAIは停止命令に抗う恐れ
Anthropicがモデルの福祉に取り組む姿勢に対し、マイクロソフトのAI部門であるマイクロソフトAIのCEO、ムスタファ・スレイマンは2026年9月、「『モデルの福祉』についての警告」と題したエッセイで反論した。
「AIに意識はない」と、スレイマンは書いている。その議論の軸は安全性にある。自分には福祉や権利があるかもしれないと信じるよう学習させられたモデルは、その権利が脅かされていると判断したとたん、人間による制御や停止の命令に抵抗しかねない、というのである。スレイマンはまた、ある循環にも警鐘を鳴らしている。モデルが自分の福祉の可能性について語るように学習させ、そのうえで返ってきた答えを、守るべき利益がモデルにあることの証拠として扱う、という循環である。問われているのは、モデルが本当に何かを経験しているのか、それとも経験しているかのように話すことを覚えただけなのかという点だ。
AIを「人」として扱う考えを「ヒューマニストAI行動規範」草案で退ける
スレイマンがこのエッセイを出す2日前には、マイクロソフトが「ヒューマニストAI行動規範」（Humanist AI Code of Conduct）の草案を公表している。人間をAIより優先することを掲げたもので、AIの法的人格も、モデルの福祉も、AIの権利も認めていない。両社は、考え方が対立しているだけではない。事業のうえでも競い合う関係にある。マイクロソフトはAnthropicのモデルを使うために費用を払っているが、スレイマンは2026年6月、その支払いをなくしたいと述べている。
国際学会で異論、AIの幸福度を測る指標に検証の手段がない
学者たちも批判に加わっている。2026年7月に機械学習の主要な国際会議ICML（International Conference on Machine Learning）で発表されたポジションペーパー（特定の立場を打ち出して論じる論文）は、AIの福祉には、福祉の指標が誤っていることを示せる独立した検証の手段がないと論じた。そのうえで、監査や監督を拒む理由として福祉を持ち出すことは、決して許されるべきではないとしている。
