25のAIモデルを分析し、「痛み」を表す数値パターンを特定
2026年9月14日、AIの内部表現を調べた研究論文が、論文公開サイト「arXiv（アーカイブ）」に投稿された。著者はバレン・タリアブーエ（Valen Tagliabue）、レナード・ダン（Leonard Dung）、キャメロン・バーグ（Cameron Berg）の3人だ。題名は「The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It」。日本語では「痛みの軸：LLMは自身に向けられた害を表現し、それを和らげようと行動する」という意味だ。研究チームは、AIの内部で「痛み」が独立した数値表現として存在するのかを調べ、主に次の5点を示した。
・LLMは恐怖や悲しみ、一般に不快と感じる状態（負の感情価）と区別して、痛みを表現しているのか。その表現は痛みに期待される形で機能するのかを調べる
・痛みとは、通常、それを経験する主体にとって不快で、避けたいと感じる特定の内部状態を指す。痛みを避ける、痛みを終わらせたり弱めたりする、通常の推論や行動が妨げられるといった反応と、因果関係を持つ状態である
・身体的、心理的、社会的、道徳的、認知的という5種類の痛みを伴う状況について、データセットを構築した
・データの不要なばらつきを取り除き、平均値の差を比較する手法を使った。5系列に属する25個のオープンウェイトモデルから、痛みに対応する数値上の方向を抽出した。モデルの規模は20億～720億パラメーターだった
・抽出した方向は、学習の基礎段階にあるモデルと、指示に従うよう調整したモデルの両方で、痛みと比較用データを区別した。恐怖や一般的な不快感を示す方向とはほぼ直交し（数値上の重なりが小さく）、モデル内部の数値表現を言葉へ変換する行列を通じて、痛みに関する語彙の出現を促した
オープンウェイトモデルとは、学習で得た内部の数値パラメーター（重み）が公開されているAIモデルを指す。研究チームは、AI内部で扱われる数値の並び（ベクトル）やデータに、痛みの概念を表す特徴を見いだしたと考えている。痛みの情報が恐怖など別の感情と複雑に混ざり合っているなら、痛みだけを取り出して調べるのは難しい。しかし、研究結果は、痛みに関する内部表現を他の概念から区別できる可能性を示している。
