現時点で、AIが高度なチューリングテストに合格できることは分かっている。だが、AIは正確にはどのように「思考」しているのだろうか。より正確で曖昧さの少ない言い方をすれば、ニューラルネットワークは人工ニューロンをどのように使用して、認知行動あるいは準認知行動を生み出しているのだろうか。
言い方を変えてみよう。AIと、生体脳で考える人間の思考法とはどう違うのだろうか。
明らかな違いの1つは、情報へのアクセス能力だ。
私たち人間は、生まれつき情報へのアクセス能力を備えているわけではない。情報は獲得しなければならず、その方法はアナログで、きわめて非効率だ。対照的にAIは、インターネットに接続し、そこに存在する既知の情報全体を瞬時にスキャンできる。これが、大規模言語モデル（LLM）に途方もないアドバンテージを与えている。
とはいえ、話はAIという実体と人間が学んだ内容をどのように利用しているかという、より深い問いへと至る。一部の科学者や研究チームは、これを非常に興味深い方法で探求しているが、その多くは一般の人々には理解するのが難しい内容だろう。
AIの「スケーリング」と人間の「パフォーマンス」のスケーリングを比較したこの論文を例に挙げてみよう。認知パフォーマンスはどのように測定すればよいのだろうか。研究者らはこのかなり広範な問いに意欲的に取り組んでいるが、人間の認知パフォーマンスの測定自体が抽象的であることを考えると、筆者には容易ではないと思える。私たちは物理的・生物学的な肉体を持った生体脳であり、限られたデータしか持たず、控えめに言っても混沌として秩序のない物理的環境の中で、常にあらゆる種類の無関係な刺激に囲まれている。
しかし、そうした要素をすべて取り払い、人間の「スケーリング」を追跡できると仮定した場合、この論文が示しているように思われるのは、スケーリングアップにおいては人間の方がAIよりも優れているということだ。ここでの基本的前提は、AIにより多くのトークンを与えることは、人間にタスクや問題でより良い結果を出すためのより多くの時間を与えることと同じだという点だ。数式や「両対数（log-log）」分布が満載の残りの部分については読者自身で読んでいただくとして、筆者にとって解明すべきなのは、その中心にある哲学的な本質だ。言い換えれば、私たちは一体何のために人間とAIの「パフォーマンス」を測定しているのだろうか。
遊び心あふれる探求
この問いは、思考の創造的な側面に向けられた、AI認知に関するもう一つの興味深い試みへと導いてくれる。これは、以前のデジタルな「先祖」よりも自律性の高いAIエージェントに対する私たちの継続的な分析とも合致する。
マサチューセッツ工科大学（MIT）コンピュータ科学・人工知能研究所（CSAIL）の所長である筆者の同僚、ダニエラ・ルスはこの考えに賛同し、「遊び心のある学習（playful learning）」を実証することを目的とした「Eko」というエージェントを用いたプロジェクトを先導している。このアプローチにより、エージェントがルスの言う「物理的に自らの世界と相互作用し、推論し、記憶を形成し、新しさを探求する」方法を示す様子について、詳細はこちらで確認できる。
例えば、エージェントが絵を描き、独自の小さな世界を創造できるようになったとき、それは何を意味するのだろうか。チューリングテストのどの部分に挑んでいるのだろうか。「プレイフルネステスト」というような別の呼称が必要な時なのかもしれない。あまり格好いい響きではないが。この概念の命名コンテストを開催すべきかもしれない。あるいは、これは単にチューリングテストのより深いバージョンであり、「AIがこれらすべてを行えるなら、人間の存在価値とは何なのか」と人間に問いかけているだけなのかもしれない。
記憶とインパクト
その厄介な玉ねぎのような問題はいったん脇に置き、コメント欄で見かけた内容について少し話そう。
「重要な実験的問いは、恒常的記憶メカニズムと、通常の信念の固執や指示追従とを何が区別するのか、という点だ」と、ルスのLinkedInのフィードでのEkoの発表に対し、ジョン・R・スミスは書き込んでいる。「我々の『恒常的基盤仮説（Homeostatic Substrate Hypothesis）』は、反証可能な2つのテストを提案している。定着した誤った信念を除去することが加法的修正よりも多くの能力を回復させるかどうかのHSH-H3、そして測定された記憶ドリフトがその後の行動固着を予測するかどうかのHSH-H4だ。どちらも明解な反証条件を備えており、より単純な対立説明と比較評価される必要がある」
彼は論文へのリンクを残していた。
恒常的記憶メカニズムとは何かを知らなくても、恥じることはない。
このタイプのシステムは、LLMが使用する記憶情報の安定性を維持し、確立されたパターンを乱す変化に抵抗する。この効果によって既存の信念が強化され、記憶の更新が規制され、経時的な一貫性が維持される可能性があり、誤った前提を修正したり記憶から除去したりすることが難しくなる場合がある。したがって、マシンがハルシネーション（幻覚）を起こす場合、そこには理由があり、そのエラーは応答システムに組み込まれていることになる。
これは、人間の記憶違いに置き換えるとイメージしやすい。ある人がチェスナット通りに住んでいると聞かされたのに、ウォルナット通りと思い込んでしまい、次にその話が出たときにもやはりウォルナット通りが真っ先に頭に浮かんでしまうようなものだ。頭にこびりついたものを自己修正するのは容易ではない。
だが、AIは違うのだろうか。
探求は始まったばかりだ
そうであり、そうではない。これらすべての研究が示しているのは、ニューラルネットワークが作動するときに何を行っているのかを解明するプロセスにおいて、私たちが依然として初期段階にあるということだ。そして、LLMの内部動作を明確に可視化できない、いわゆる「ブラックボックス問題」が今なお存在している。AGIの支持者を信じるなら、システムは人間を超えて「賢く」なり続け、神のようなAIの時代に到達し、カーツワイルが提唱する「シンギュラリティ（技術的特異点）」において人間がこれら不死の知性と融合するまで、私たちがその内部を理解することなど決してないだろう。
それまでの間、このような研究はAIがどのように機能しているのか、少なくともその輪郭を捉えるのに役立つ。恒常的記憶メカニズムのようなものを実装し、あるいは単に特定するだけでも、モデルやエージェントの行動を予測するための知識が少なからず得られる。そうした知見のピースを十分にかき集めることができれば、あるいは人間もAIの進化についていくことができるかもしれない。
