10年以上にわたり、人工知能（AI）は主に効率性で評価されてきた。システムはどれだけ速くタスクを完了できるのか。どれだけ労働を減らせるのか。どれだけ多くのプロセスを自動化できるのか。
こうした指標は依然として重要だが、より重大な問いを見落としている。それは、状況が予測不能になったとき、システムが機能し続けるために必要なものは何か、という問いだ。
答えは判断力である。
ビジネスリーダーは、この原則を本能的に理解している。2020年と2021年のサプライチェーン混乱を乗り切った企業を考えてみてほしい。最も効果的に適応した組織は、必ずしも最も高度な予測ツールを持つ組織ではなかった。前提が崩れ、在庫パターンが予期せず変化し、消費者行動の予測が難しくなったときに、的確な意思決定を下した組織だった。テクノロジーは可視性をもたらしたが、結果を決めたのは判断力だった。
状況が安定し、予測可能なときに組織が試されることはほとんどない。試されるのは、前提が誤りだと判明し、市場が変化し、不完全な情報のもとで意思決定を迫られるときである。
理想的な条件下での成果は当然のものと見なされる。信頼は、現実が計画から逸脱したときにこそ得られる。同じ原則は、AIにもますます当てはまるようになっている。
AIの成長
AIの第1波は、主に自動化に焦点を当てていた。効率性の向上、コスト削減、反復的なタスクを大規模に実行する能力を約束していた。
それらの利点は現実のものだ。しかし、AIがソフトウェアを超え、輸送、物流、製造、エネルギー、医療、防衛といった現実世界の用途へ広がるにつれ、異なる基準が現れつつある。
成功は計算能力だけでなく、適応力にも左右される。自動化は指示に従う。指示だけではもはや十分でなくなったときに何をすべきかを決めるのが、判断力である。
ビジネスにおいて、リーダーが単に効率性だけで評価されることはほとんどない。情報が不完全で、賭け金が大きいときに的確な意思決定を下すことで評価される。現実世界で稼働するインテリジェントシステムも、ますます同じ基準で測られるようになるだろう。
管理の行き届かない環境への適応
イスラエルで防諜官として勤務していたとき、私は国家安全保障をはるかに超えて通用する教訓を学んだ。タイミングを選ぶのは相手であり、こちらではない。相手がいつ行動するか、どこで行動するかを決め、多くの場合、脆弱性を突くように設計された条件下で行動する。成功は理想的な状況で活動することではなく、状況が理想から大きく外れたときに適応することにかかっている。
この教訓は、自律型海事分野での私の仕事を通じて新たな意味を持つようになった。世界の海運航路や、ホルムズ海峡のような戦略的要衝（チョークポイント）に影響を及ぼす最近の出来事は、海上運用が経済の安定、エネルギー安全保障、世界貿易と深く結びついていることを改めて思い起こさせる。ある地域での混乱は、世界のサプライチェーン、エネルギー市場、国家安全保障上の優先事項に連鎖的な影響を及ぼし得る。
海事領域はまた、世界で最も過酷な運用環境の1つでもある。荒天、変化する海況、通信の途絶、広大な距離は日常的な現実だ。システムが予測可能な条件下で稼働できる管理された環境とは異なり、海は人間の想定などお構いなしだ。状況は急速に変化する。視界は変わる。通信は劣化し得る。それでも任務は続く。このような環境では、自律性能の基準は単なるタスク完了よりも高くなければならない。
重要な問いは、条件が良好なときにシステムが稼働できるかどうかではなく、良好でないときにも効果的に稼働し続けられるかどうかである。
経験はかけがえのない価値を持つ
自律システムを開発する組織は、現実世界での展開が、シミュレーションだけでは再現できない洞察を生むことをますます認識している。経験がデータを生み、データが学習を生み、学習が意思決定を改善する。
この原則は、海事の自律化をはるかに超えて当てはまる。
シミュレーションは数千ものシナリオをモデル化できる。しかし、何年にもわたる運用現実を完全に再現することはできない。予期しない変数、環境条件、システム間の相互作用、人間の行動は、実験室環境では予見できない教訓をしばしば明らかにする。だからこそ、新興テクノロジーにおける最も価値ある知的財産の一部は、単なるコードではなく経験なのである。
自律型海事分野のイノベーターとの仕事を通じて、私は運用経験が差別化要因になる様子を直接見てきた。私が最も感銘を受けたのは、単にテクノロジーそのものではなく、長年にわたる展開、長距離運用、困難な環境での継続的な性能を通じて蓄積された教訓である。
そうした教訓は積み重なる。展開のたびに知識が増え、課題のたびに将来の性能が向上する。時間がたつにつれ、経験は競合他社にとって模倣が難しいものになる。
歴史が示すように、変革的なテクノロジーが勝つのは、単に少し優れているからではない。それらが成功するのは、経済を根本的に変化させるからだ。インターネットはコミュニケーションのコストを下げた。クラウドコンピューティングはインフラのコストを下げた。スマートフォンは情報やサービスへのアクセスを広げた。同様に、自律システムには、運用コストを下げ、持続時間を延ばし、資産活用を高め、大規模に効率性を改善する可能性がある。経済性が大きく改善すれば、普及は加速する傾向がある。
自律システムも最終的には同様の軌道をたどるかもしれない。それは人間の関与をなくすからではなく、規模、耐久性、持続性、効率性を劇的に拡大できるからである。
AIから最大の価値を生み出している組織は、必ずしも自動化そのものを目的として追求している組織ではない。判断力を高め、適応を加速し、不確実性の中でより効果的に活動するためにテクノロジーを使っている組織である。
私の助言業務では、問題になる前に新たなリスクを特定するためにAIを活用する組織を見てきた。テクノロジーは経営陣や意思決定者に取って代わったわけではない。むしろ、発生しつつある問題をより早く可視化し、リーダーがより効果的にリソースを配分し、混乱が高コスト化する前に対応できるようにした。価値は自動化だけから生まれたのではなく、より良い意思決定を可能にしたことから生まれた。
私たちはAIを能力の観点から語ることが多い。より重要な議論は、信頼かもしれない。信頼は導入、規模、そして結果が真に重要なときに組織が自律システムに依存する意思があるかどうかを左右する。そして信頼はデモンストレーションではなく、実績によって得られる。
組織が今後10年で繁栄したいのであれば、最も高度なアルゴリズムを持つことよりも、インテリジェンス、自律性、レジリエンス、運用経験、そしてプレッシャー下での的確な意思決定を組み合わせることに、より注力すべきである。
なぜなら、AIの次なる優位性は自動化ではないからだ。それは判断力である。そして判断力は、最終的には経験を通じて築かれる。
