ここ数年、企業は競うようにして、自社内のより多くの領域を大規模言語モデル（LLM）に取り込もうとしてきた。
企業はAIを文書、データ、アプリケーション、ワークフローに接続してきた。モデルは、こうした情報を横断して推論し、ツールを使い、意思決定を提案し、行動を起こす能力をますます高めている。
だが、AIの先駆者の1人は、人工知能の次の進化の方向性について異なる見方をしている。
ヤン・ルカン（Yann LeCun）は、大規模言語モデル（LLM）を単に大きくしていくだけでは、いずれ人間レベルの知能が生まれるわけではないと論じている。彼の主張は、LLMが重要ではないということではない。言語は世界を圧縮して表現したものであり、より高度な知能を実現するには、世界そのもののより豊かな表現を学習するシステムが必要になるかもしれない、ということだ。
重要な違いは、LLMが自らの行動の結果について推論できないという点ではない。推論は可能だ。肝心なのは、その推論が何を根拠にしているかである。
ルカンの議論は、ビジネスリーダーに重要な問いを投げかける。自社が知っているすべてにアクセスできるAIは、自社がどのように機能しているかを理解するAIと同じなのか。おそらく違う。
そこから、もう1つの問いが生まれる。AIが、企業が記録したものから推測するのではなく、企業がどのように振る舞うかを学ぶには、何が必要なのか。
企業の知識を知ることと、その仕組みを理解することは異なる
複雑な業務運営を率いてきた経験から言えば、「何が起きたか」を再構成することは、「なぜ起きたか」を再構成するよりはるかに容易である。損益計算書は、利益率が動いたことを示す。業務データは、それがどこで起きたかを示すかもしれない。だが、価格設定、人員配置、顧客行動、経営上の介入のどの組み合わせがその結果を生んだのかを理解するには、企業が連鎖として記録してこなかった因果の連鎖を再構成する必要がある。
情報は断片として存在している。断片同士の関係は、多くの場合、存在していない。
企業の記録は、あるプロジェクトが30日遅れで完了したことを示すことはできる。だが、作業がどこで滞ったのか、あるいはどの非公式な介入によって遅れが60日にならずに済んだのかまでは明らかにしないかもしれない。
欠けているものの多くは、表現可能なものだ。単に記録されていないだけである。重要なのは関係性だ。システムがこの状態にあったとき、われわれはこの意思決定を行い、その後こうなった、という関係である。
エンタープライズAIは、記録された情報をもとに推論する能力を大きく高めている。より難しいフロンティアは、そうした関係性を学ぶことにある。
企業ではなく、オペレーティングシステム（業務執行体制）をモデル化する
ある能力から別の能力へ4000万ドル（約63億2000万円）を移したら、何が起きるのか。
そこから始めるのは間違っている。戦略的意思決定はまれで、対照群を欠き、競合他社、顧客、従業員の反応を引き起こす。10年かけても、比較可能な意思決定はごくわずかしか生まれないかもしれない。
1段階下げると、問題は変わる。
交通網は日々、何千もの運行スケジュールに関する意思決定を行っている。小売業者は、価格設定と在庫に関する意思決定を繰り返す。病院は、常に病床や医療リソースを割り当てている。サービス業は、日々人員配置の選択を行う。
こうしたシステムは、状態、意思決定、結果に関する反復的な観察を生み出す。
したがって、企業に関する最初の有用なモデルは、その内部にあるオペレーティングシステム（業務執行体制）のモデルになる可能性がある。
なぜそれらのシステムは学習可能なのか
この野心自体は新しいものではない。ジェイ・フォレスター（Jay Forrester）は半世紀以上前に、組織システムをモデル化していた。変わったのは経済性である。現代の業務運営は継続的なテレメトリー（遠隔計測データ）を生み出し、機械学習はその中に構造を見いだせるようになった。
観察だけでは因果関係を確立できない。管理職は状況が変化したから意思決定を行うのであって、意思決定と結果はしばしば同じ原因を共有しているからだ。
その種のデータが増えても、得られるのは確信度の高い結論であって、信頼性の高い結論ではない。
高頻度で稼働するオペレーティングシステムが異なるのは、多くの意思決定が実験できるほど低コストで可逆的である点だ。価格設定は検証できる。方針は段階的に導入できる。外部ショックは自然実験を生み出し得る。
低コストで、可逆的で、反復される意思決定は、因果的な証拠を生み出す。高コストで、不可逆的で、一度限りの意思決定はそうではない。
エンタープライズAIへの投資の大半は、組織の知識とワークフローをモデルがアクセスできるようにするものだ。AIにオペレーティングシステムがどのように振る舞うかを教えることは、それとは異なる。観察可能な状態、測定可能な意思決定と結果、そして適切な場合には実験が必要になる。
したがって実務上の問いは、「自社のモデルをどう構築するか」ではない。むしろ、「自社内のどのオペレーティングシステムが学習可能なのか」である。
4つの問いによるテスト
重要なオペレーティングシステムを1つ取り上げ、4つの問いを立てる。
1. 状態：意思決定が行われたときに何が起きていたのかを再構成できるか。
2. 意思決定：その意思決定を観察できるか。また、その意思決定は状態とは無関係な理由で変化することがあるか。
3. 結果：その後に何が起きたかを測定できるか。
4. 価値：その結果が価値を生み出したかどうかを判断できるか。
最初の3つは、そのシステムが学習可能かどうかを決める。4つ目は、それを学ぶことに意味があるかどうかを決める。
意思決定については注意が必要だ。記録された理由は、真実そのものではない。人は合理化する。多くの組織では、曖昧さが組織を支えている。理由の記録は、人々が何を信じていたかを示す証拠として扱うべきであり、必ずしも何かが起きた理由そのものとして扱うべきではない。
誤った理解がもたらす危険性
これが機能したと仮定しよう。あるシステムが、意思決定がオペレーティングシステム内でどのように伝播するかを学び、介入を推奨または実行できるようになる。
われわれはそのシステムに、何を最適化するように求めたのだろうか。
交通システムに定時運行率を最大化せよと指示すれば、常に最も時間を要する停留所を飛ばすことで指標が改善する、と学ぶかもしれない。
サービス業務に稼働率を最大化せよと指示すれば、何か問題が起きたときに組織が依存している余力を排除するかもしれない。
これらは最適化の失敗ではない。
不完全な目的を、見事に最適化した結果である。
能力が高まるほど、問題は大きくなる。こうした関係性を学ぶシステムは、どの経営幹部も想定していなかった経路で指標を達成する方法を見つけるかもしれない。
効率性は価値を生み出す。だが、それは企業の目的関数ではない。リーダーは、どの結果が重要で、どの制約を決して破ってはならないのかを定義しなければならない。
ルカンは、機械がどのように世界の有用なモデルを発達させられるかを問うている。ビジネスリーダーは、より実践的なところから始められる。
意思決定が頻繁で、状態が観察可能で、結果が測定可能で、選択を変化させられるオペレーティングシステムを1つ見つけることだ。そして問うべきである。われわれは自らの意思決定が結果をどう変えるかを学べるのか。そして、どの結果を最適化する価値があるのかについて明確になっているのか。
前者は、エンタープライズAIの次なるフロンティアを定義するかもしれない。後者は、それが価値を生み出すかどうかを決めることになる。
