真の知能、真の「知恵」の構築に向けて
スタインバーグによれば、この問題の解決策は、単にAIをより賢くすることではなく、AIが、自分が投入される環境をより深く理解させることにあるという。「その第1歩は、現場を知る人間をそのAIの開発プロセスに関与させることだ。Twofold Healthでは、最も重要な作業に関与しているのは、エンジニアではなく臨床医だ。彼らは実体験をもとに、言語（専門用語やニュアンス）、倫理、ルールをAIに理解させる手助けをしている」と彼は語った。
さらに、誰もが語りたがらない地味な作業もある。たとえば、どのイレギュラーなケースが重要なのかを選び取ること、業界独特のスラングや言葉遣いをどう標準化するかを決めることだ。あるいは特定の状況下、例えば事故報告書では、その「中身」よりも時系列ではなく不自然な順番で書かれているといった「構造」が重要であることを見抜くこと。こうした判断は、一見すると些細で取るに足らないように思えるが、それらが積み重なると、やがてシステム全体の崩壊へとつながっていく。
投入される環境をAIに深く理解させる
また別の研究でも、一般的なデータセットで訓練されたAIモデルは、より専門的な環境に投入された際に「予測不能な挙動」を示すことが多いという事実が示されている。これは「ドメインシフト」として知られる現象だ。グーグルとスタンフォード大学の研究者が発表した有名な論文でも、現代の機械学習モデルの多くは「仕様不十分（underspecified）」だと指摘しており、検証テストには合格しても、現実世界の条件下では失敗する可能性があると述べている。
医療や金融分野のように、リスクが高く、判断が法的責任を伴う分野では、そうしたミスは許容されない。それは訴訟リスクと隣り合わせだ。
メタのAI部門のチーフサイエンティスト、かのヤン・ルカンでさえ、今日の大規模モデルには「常識が欠けている」と率直に述べ、利用環境を考慮せず汎用モデルを急速に展開している業界の動きに警鐘を鳴らしている。2025年4月にシンガポール国立大学で講演した際、ルカンは「モデルを大きくすればAIは賢くなる」という業界で広く信じられている考えに疑問を投げかけ、「データと計算能力を増やすだけでAIが賢くなると考えるのは誤りだ」と述べていた。
ルカンによれば、スケーリング（AIモデルの巨大化）は単純なタスクには有効かもしれないが、ニュアンス、あいまいさ、変化を含む「現実世界の複雑さ」には対応できない。そのため、「人間のように環境を理解し、計画し、推論できるAIシステム」が必要だと彼は訴えた。
しかし、それにもかかわらず、シスコの「2024年AIレディネス指数」によれば、98％のビジネスリーダーが「AI導入の緊急性が高まっている」と答えており、多くの場合明確な評価基準や責任体系を欠いたまま導入を進めている。そうした状況では、コンテキストが優先順位の最下位に追いやられるのも無理はない。
この状況こそが、スタインバーグが警告しているものだ。単にモデルがハルシネーションを起こす可能性だけでなく、「それが起きたときに、社内で誰も責任を取る準備ができていない」企業体制の問題だ。「我々は精度の話ばかりして、責任の話をしなさすぎる」と彼は語る。「コンテキストとは、正しい答えを知っていることだけではなく、その答えが間違っていたときに誰が責任を負うのかを知っていることでもある。その責任体系を最初に築いておけば、AIは仕事にとりかかる最初の日から、より健康的なコンテキストを摂取できるようになる」と彼は指摘した。
AIを現実世界のコンテキストにつなぎ止めるアンカーが必要だ
コンテキストは、AIの学習に用いるレイヤー（層）を増やしたりコンピューティングの能力を強化したりすることで得られるものではない。AIを「生きた、進化し続けるシステム」として扱い、単なる訓練ではなく「継続的な指導」が必要だと認識することが重要だ。そして、プロンプトではなく「人間」をそのループの中に組み込むことが必須となる。
AIは、決して愚かではないが、コンテキストを与えられなければ、愚かに振る舞う。この問題の解決策は、AIを盲目的に信頼することではなく、より良い情報を与えて、頻繁に点検し、AIが自信過剰になったときに見張る人間を置いておくことだ。
「数値上の目標を達成していたとしても、使命を見失ったAIモデルは、単に高くつくだけではない──それは危険そのものだ」とスタインバーグは語った。
