ロヒット・パテル氏、QuickAIの創業者兼CEOであり、Meta Superintelligence Labsのディレクター。強化学習、エージェント、評価に関する研究に取り組んでいる。
AI業界が推論モデル、つまり回答する前に「推論」テキストを生成するモデルに注目する中、私は考え始めた。どうして論理が弱点となる状況に至ったのか？私たちは何を構築してきたのか？そして現在と未来のAIと私たち人間を分けるものは何なのか？
何十年もの間、ポピュラーカルチャーはAIの明確なイメージを描いてきた。機械は論理の達人である一方、私たちが人間特有だと信じていたことには完全に戸惑うというものだ。スタートレックのデータは、脳がスーパーコンピュータのアンドロイドで、無限の事実を処理できるが、芸術、感情、創造性を理解することはできなかった。ターミネーター2のT-800は学習する機械だが、笑顔の意味や人間が泣く理由を教えられる必要があった。映画「アイ、ロボット」の重要な瞬間は、ロボットのソニーが絵を描き始めることだ。この創造行為が、彼が他のロボットとは異なることを証明したからである。
これらの物語から、私たちは自分自身について強力な物語を構築した。人間らしさとは、私たちの直感、芸術性、ニュアンスの把握能力にあると信じるようになった。機械にはできないことだと。
思考の二つのシステム
私たちが創造している知性を理解するには、まず自分自身の知性を理解する必要がある。心理学者ダニエル・カーネマンの研究は、私たちの心が二つの異なる方法で機能することを示す有用な枠組みを提供している。彼の著書「ファスト＆スロー」で有名になったものだ：
• システム1は私たちの直感である。それは速く、自動的で、労力を必要としない。群衆の中で友人の顔を瞬時に認識したり、「塩と…」というフレーズを完成させたり、不穏な画像に恐怖を感じたりする直感だ。パターンを照合し、素早く接続することで機能する。
• システム 2は私たちの推論である。それは遅く、意図的で、意識的な努力を必要とする。17×24のような数学の問題を解いたり、狭いスペースに車を慎重に駐車したり、複雑な議論を追ったりするときに使うシステムだ。これは私たちが「思考する」自己として認識する論理的、分析的な声である。
真の人間の知性はどちらか一方ではなく、両者の絶え間ない相互作用である。私たちの素早く直感的なシステム1が提案を行い、遅く合理的なシステム2が必要に応じて分析し、質問し、修正する。
純粋な理性から欠陥のある直感へ
1950年代と60年代の初期AI研究、現在「古き良きAI」（GOFAI）と呼ばれるものは、純粋なシステム2マシンを構築する直接的な試みだった。それは形式論理と膨大なif-thenルールのデータベースに基づいていた。このアプローチはチェスや代数学のような明確なルールを持つ閉じたシステムには優れているが、脆弱である。あらゆる可能な状況に対してルールを書くことはできないため、現実世界に対処できない。
今日の大規模言語モデル（LLM）につながった深層学習革命は異なる道を歩んだ。研究者たちはルールをプログラミングする代わりに、脳にインスパイアされた巨大な人工ニューラルネットワークを構築し、インターネット規模のデータセットで訓練した。そうすることで、彼らは意図せずに完璧な推論者（システム2）というよりも、超強力だが欠陥のある直感エンジン（システム1）のように機能するものを作り出した。
LLMはテキストの補完を一語ずつ生成することで機能する。パターンの継続、もっともらしい接続の作成、そして見てきた膨大な量のデータに基づく直感的な応答の生成に優れている。これが詩を書いたり、簡単に画像を作成したりできる理由だ。幻覚は創造性を駆動するのと同じエンジンである。LLMはデータに広く存在するパターンを完成させようとしている。生成されたパターンが訓練データに存在する場合もあれば（事実や再現）、世界では起こらなかったが起こりえた統計的に可能性の高いパターンである場合もある（幻覚または創造性）。これがLLMが基本的な論理的誤りを犯す理由でもある。
今日のLLMの中核的な限界は、システム2による検証なしに動作する純粋なシステム1の弱点である。
人間らしさの再定義
この大きな逆転は衝撃的だった。私たちは、機械にとって単純だと思っていたことをマスターする前に、人間特有だと思っていたことをマスターする機械を作り上げた。システム1の曖昧で直感的なパターンマッチングは、システム2の明確で論理的な推論よりも、データとコンピューティングパワーで達成しやすかったことが判明した。機械は依然として限定された環境での論理的タスクに優れているが、混沌とした現実世界での推論に苦戦している。
この発展は私たち自身に鏡を向けている。機械が芸術を創造し、美しく文章を書くことができるなら、人間であることの真の意味は何なのか？おそらく、私たちを定義するのは直感や創造性だけではなく、直感的な心と推論する心のシームレスな連携なのだろう。これらの新しい形の知性を構築し続けるにつれて、それは単により良い機械を作ることだけでなく、私たち自身をより良く理解することでもあるかもしれない。
ビジネス環境でAIを適用する場合、これはどういう意味を持つのか？同僚のリーダーたちへの私の提言はシンプルだ：仕事全体を自動化するよりも、特定のタスクを自動化することでより成功するだろう。従業員の特定のタスクを自動化することを目指すビジネスは、効率性の向上に成功するだろう。一方、仕事全体を自動化するには、システム1とシステム2の思考をシームレスに移行できるより高度なAIが必要となるだろう。
