レンズを使う
では、Jレンズとは何か。これは、このヤコビ行列を「のぞき窓」として活用し、Claude（あるいは他のモデル）が口には出さずに考えている内容を表す隠れたパターンを可視化する手法である。
explain.aiのヤシュ・タッカーは、次のように書いている。
「各層にこのレンズを当てると、語彙の単語が順位付きのリストとなって現れます。バグのあるコードには『ERROR』、プロンプトインジェクション（AIに不正な指示を注入する攻撃）には『fake』、そして数学の途中計算ステップが順番に──いずれも、CoTや最終出力にはしばしば含まれないものです。こうしたパターンの集合体がJ空間、すなわちClaudeの内部的なグローバル・ワークスペースを形成します。レンズが観測装置であり、J空間が現象なのです」。
その知性を評価する
このパートはあえて簡潔にとどめ、関心のある読者には各自で調べを進めてもらいたい。ここでは、この研究がLLMの思考プロセスについて何を語っているのかを見るため、2つの事柄──うち1つはもう1つから導かれるものだ──を紹介する。
1つ目は、AIが執筆し、アンディ・サウスゲートという人物が「人間によるレビュー」を行ったという文章の要約だ。研究者たちがJ空間とJレンズの発見において何を成し遂げたのかが述べられている。ここでは冒頭と末尾のみを掲載する。その間には、J空間の仕組みを説明する記述が続く。
まず、この人間とAIのコンビは、何が起きたかを次のように振り返っている。
「2026年7月6日、Anthropicは（Transformer Circuits Thread上で）解釈可能性に関する論文を発表した。この論文は、言語モデルの活性の中にある小さくスパース（疎）な部分空間──著者らがJ空間と呼び、ヤコビアン・レンズ（Jレンズ）によって浮かび上がらせたもの──が、グローバル・ワークスペース理論／グローバル・ニューロナル・ワークスペース理論でいう『グローバル・ワークスペース』のように振る舞う、と論じるものだ」。
そして末尾には、こうある。
「重要なのは、著者らが現象的意識、つまり主観的な意識について、明確に立場を示していないことだ。これはまさに、Map（マップ）が前提としている区別である。この研究は、Mapが扱うアクセス意識と現象的意識の問題の中心に位置している。二元論的な枠組みにとって脅威なのではなく、むしろ好材料なのだ。著者ら自身の言葉によれば、現象的意識の問題には手を付けないまま、アクセス意識を鮮やかに実証しているからだ」。
私は、この最後の部分に引っかかった。「二元論的な枠組み」にとって、「著者ら自身の言葉によれば、現象的意識の問題には手を付けないまま、アクセス意識を鮮やかに実証している」と説明されている点だ。
そこで私はGPTに、この内容を平易にし、「二元論的枠組み」とは何かを説明するよう頼んでみた。
その回答を見てほしい。
「二元論的枠組みとは、2つの異なる種類の事柄を同一のものとして扱わず、切り分けて考える思考法です。意識について語る場合、二元論的枠組みでは2つの別々の問いがあるとされます。第1に、心はどのように情報を処理するのか。第2に、心は主観的な内的体験を持つのか。後者は現象的意識、あるいは主観的意識と呼ばれます。Anthropicの論文が扱っているのは第1の問いだけです。この論文は、AIが情報を整理し活用するための内部ワークスペースを持っている可能性を示していますが、研究者たちは、AIが感情や体験を持つと主張しているわけではないと明言しています」。
続けてGPTは、核心となる考え方を改めて次のように整理した。
「つまり、この文脈における二元論的枠組みとは、次の2つの考えを切り分けておくことを意味します。すなわち、思考し推論すること（アクセス意識）と、感じ、体験すること（現象的意識）です。この論文は前者の証拠を示していますが、後者については完全に未解決のまま残しています」。
最後に、GPTによる二元論的枠組みの定義がこちらだ。
「哲学において『二元論』は一般に、心と身体は根本的に異なる種類のものだとする考え方を指します（ルネ・デカルトと結びつけて語られることの多い概念です）。しかし、ここでの『二元論的枠組み』はより狭い意味で使われています。心と身体が別個の実体かどうかについては必ずしも主張せず、機能的な知性と主観的な体験とを切り分けるものです」。
まさにデカルトである。実に難解な話だ。哲学に関心のある人にとって最も興味深いのは、ヤコビ行列とは何かではないかもしれない。LLMがさらに高い能力を備え、私たちの「間を歩く」ようになり始める中で、この研究がLLMに対する私たちの見方に何を意味するのか。その点の方が興味深いだろう。
今後の動向に注目したい。
