【重要】会員機能一時停止とサイトメンテナンスのお知らせ

経営・戦略

2026.07.12 07:40

AI迷路実験が示す「誤った目標」を追うことの落とし穴

stock.adobe.com

stock.adobe.com

10年ほど前、AI研究者のジョエル・レーマンとケネス・O・スタンリーは、センサーを搭載した小型ロボットを迷路に放ち、いくつかの異なるアプローチを試した。第1のアプローチでは、ロボットが「出口に近づくこと」だけに報酬を与えた。第2のアプローチでは、出口がどこにあるかという概念は一切持たせず、「これまでに他のロボットが訪れたことのない場所(未探索の場所)に到達すること」に対して報酬を与えた。これは一見、まったく役に立たないルールのように思える。

結果は、目標追従型のロボットの敗北だった。彼らは出口に向かって突き進んだものの、壁に突き当たって身動きが取れなくなってしまった。一方、目標を完全に無視し、ただ新しい場所を探索すること自体を目的に動いた「新奇性探究型」のロボットは、はるかに高い確率で出口にたどり着いた(なお、ランダムな動きを選択させる第3のアプローチも試されたが、他の2つのアプローチよりも著しく効果が低く、新奇性探索とランダムな探索の違いが証明される結果となった)。

私はこの結果についてよく考える。なぜなら、多くの企業は最初のロボット群のように運営されているからだ。売上目標、単一の「ノーススター」指標、人員数の目標など、成功を代替する数値を選び、それをできる限り最適化する。非常に多くの問題において、それはまさに正しい。しかし、企業の将来を実際に左右する問題に関しては、それが気づかぬうちに行き詰まりを招くことがあると私は見ている。

レーマンとスタンリーは、目標追求型ロボットを閉じ込めたものに名前を付けている。「欺瞞(deception)」である。目標への道筋が、目標から遠ざかる道筋のように見える領域をまっすぐ通るとき、その問題は欺瞞的である。抜け出すには、ロボットはいったん出口から遠ざからなければならなかった。近づくことだけに報酬を与えるシステムは、それを失敗と解釈する。

ビジネスにおける「欺瞞的ルート」を見極める

ビジネスの世界は、こうした欺瞞的な課題に満ちている。例えば、まだ売上には表れていない潜在的な能力。あるいは、地味な社内向けツールが、後にすべての事業を支える基盤プラットフォームに化けるケースなどだ。欺瞞的な課題において、「これでは目の前の指標が目に見えて改善しない」というフィルターはほとんど役に立たない。にもかかわらず、多くの意思決定プロセスでは、このフィルターが当たり前のように使われている。

もちろん、すべての課題が欺瞞的であるわけではなく、その区別をつけることこそが肝要だ。コストを5%削減する、あるいは仕様が明確な機能をリリースする、といった課題は安定しており、先が見通せる。迷わず最適化を進めるべきだ。しかし、真に新しい課題(新規市場の開拓、研究開発への投資、事業の再定義など)に対して同じ本能を適用してしまうことには危険が伴う。なぜなら、その段階で最適化の前提としている「地図」自体が、間違っている可能性が極めて高いからだ。

これを見抜くのが難しいのは、指標が客観的に感じられるからだ。しかし実際には、誰かがそれを選んだのであり、その文脈はすでに変化している。数字は外から持ち込まれたものだ。そして持ち込まれたものは、戻すこともできる。進化やアルゴリズムにおいて、探索システムがどのように優れた解を見つけるのかを研究する中で、私は企業で同じ失敗が繰り返されるのを見てきた。チームが単一の数値をあまりに巧みに最適化するあまり、その数値が捉えられないものすべてに耳を塞いでしまうのである。

かつてポータブルカセットプレーヤー市場を支配していた企業の一部は、まさにこの罠に陥った。彼らは、MP3プレーヤーが「携帯音楽」の定義を静かに書き換えつつあった時期にも、既存製品の販売台数の最適化に拘泥し続けた。自らのカテゴリーに執着するあまり、外部からのシグナルに気づくことができなかったのだ。これと同じ罠は、私たちの日常業務でも、より小さな規模で日々発生している。例えば、電話による勧誘(コールドコール)の成約率に固執する営業チームは、その数値を上げようと懸命に努力する。しかし、真に優れた選択は「コールドコール自体をやめること」かもしれない。だが、既存の指標にとらわれていては、そのような決断は「失敗」としか評価されないのだ。

目標を欺瞞的にしないために

では、目標によって行き詰まらないようにするにはどうすればよいのか。私にとって有効だったのは、次の3つの転換である。

1. 最適化する前に指標を分類する。 追跡している主要な数値ごとに、その背後にある問題が安定しているのか、それとも本当に変化しているのかを問う。安定したものは迷わず最適化すればよい。不確かな未来に結びついたものについては、指標を目的地として扱うのをやめ、複数ある大まかな読み取りの1つとして扱い始めるべきだ。

2. 意図的に探索へ資金を配分する。 時間と予算の一定部分を、別の問いで評価される仕事のために確保する。「この数字を動かしたか」ではなく、「何かを学んだか。そして、それまで持っていなかった能力を開いたか」という問いである。これは、新奇性を追求したロボットのビジネス版だ。特典でも士気向上のための施策でもない。既存の地図が間違っている問題に対する探索手続きであり、中核指標に注ぐのと同じ厳密さに値する。

3. レビューで問う質問を変える。 「これによって目標にどれだけ近づいたか」ではなく、「これによって何を学び、どのような選択肢が生まれたか」と問う。私の経験では、目的地にたどり着くための「踏み石」が、目的地そのものに似ていることはほとんどない。真空管は、コンピューターとは似ても似つかないものだった。すべての一歩を、それがすでに目標にどれほど似ているかで評価すれば、実際にそこへ導くはずの一歩を体系的に捨ててしまう可能性がある。

最後に

これは目標に反対する議論ではない。明確な目的は、すでに理解している問題に対しては優れた道具である。それが罠になるのは、理解していない問題に向けたときだけだ。そして私の経験では、5年後に事業にとって最も重要になる部分は、今日最も理解できていない部分であることが多い。

だから、ある数字を最適化する前に、1つだけ問いを立てるべきだ。私は理解している問題を解いているのか、それとも理解していない問題を探索しているのか。前者を勝たせる同じ一手が、後者を負けさせるかもしれない。

forbes.com 原文

タグ:

advertisement

ForbesBrandVoice

人気記事