無意識のパターン認識は経験によって磨かれる
行動経済学者のダニエル・カーネマンは、キャリアを通じて専門家の判断力に懐疑的な立場をとり続けた。一方、認知心理学者のゲイリー・クラインは、消防士や戦場の指揮官が、アルゴリズムでは再現できない瞬時の判断をどのように下しているのかを研究してきた。両者がそれぞれの見解をすり合わせた結果、一つの点で一致した。それは、経験に基づく直感が信頼できるのは、特定の条件が揃った場合に限られるということだ。その条件とは、法則性が安定しており、予測が正しかったか迅速なフィードバックが得られ、脳がすぐに学習できることである。
トレーダーは取引帳簿から、チェスプレイヤーは盤面から即座にフィードバックを得る。同じ業界で何度も資金調達や経営危機を潜り抜けてきた経営幹部も、これらと同じような環境に身を置いている。経験を重ね、自分の見立てが正しかったかをその都度確認することで、精度の高いパターン認識が養われていくのだ。
経験はデータに表れない情報を含んでいる
市場参入戦略を検討する経営幹部は、AIを含む誰もが利用できる数値データだけを見て判断しているわけではない。創業者のエゴ、取締役間の確執、あるいはスムーズすぎて不自然さを覚えたデューデリジェンス面談など、過去に類似案件を頓挫させた経験から得た知見もまた、重要な判断材料となっている。こうした要素がケーススタディや規制当局への提出書類、あるいはAIの学習用データセットに記録されることはない。取引の成否を左右する要因の多くは、どこにも書き残されることがないのだ。失敗に終わった取引や戦略は、よほど壊滅的なものでない限りビジネススクールの教材になることもなく、業界関係者がカンファレンスの場で小声で語り合う程度にとどまるのである。
マサチューセッツ工科大学（MIT）の経済学者デビッド・オーターは、人間の判断がなぜ自動化しにくいのかを論じた論文の中で、この限界を「ポラニーのパラドックス（Polanyi’s paradox）」と名付けた。これは、哲学者マイケル・ポラニーが唱えた「人は言葉にできる以上のことを知っている」という思想に基づくものだ。この説は神経科学の研究によっても裏付けられている。あるカードゲームの実験では、被験者が危険なカードの束を避ける理由を説明できる前に、身体がストレス反応を示して危険を察知していた。これに対し、どれほど高性能な大規模言語モデルであれ、学習できるのは誰かが書き残し、共有された情報に限定される。
