生成AI以前の時代には、組織が生み出せるアイデア、戦略、分析、提言のスピードと豊かさが、価値創造の制約となっていた。生成AIは、その制約をほぼ取り払った。製品アイデアを生み出し、タンパク質構造を予測し、投資家向けコミュニケーションを起草し、ソフトウェアを書き、金融シナリオをモデル化することができる。そのスピードと規模は、ほんの数年前なら信じがたいものだった。
しかし、より多くのアウトプットをより速く生み出す能力だけが勝負のすべてだったわけではない。あるワークフローでは優れた成果を出す同じ技術が、別の場面では説得力はあるが誤った事実を作り出したり、誤った行動を推奨したりすることがある。リーダーにとっての本当の逆説はここにある。組織の価値創造におけるボトルネックは消えたのではない。答えを生み出すことから、どの答えを信頼できるかを評価することへと移動したのである。
AIで勝つには、AIをどこで信頼できるのか、どこで監督が必要なのか、どこではそもそも使うべきでないのかを決める組織ガバナンスが必要だ。その出発点は、生成と評価を切り分けることである。あまりにも多くの企業がこの点を見落とし、AI導入を熱狂か慎重さかの選択として捉えている。熱狂派はAIをあらゆる機能に押し広げたいと考える。一方、懐疑派はAIが事実を捏造し、それに伴う評判リスクを招くことを懸念する。どちらの直感も理解できるが、それだけでは不十分である。
生成は判断ではない。生成AIは利用可能な選択肢の幅を広げ、どのチームにもまねできないペースで可能性を生み出す。評価はそれとはまったく別の規律であり、アウトプットが正確で、有用で、安全で、そのタスクにふさわしいかを見極めるものだ。評価がなければ、AI生成のアウトプットは輝かしく見えても誤りを含みやすいものになり得る。評価があれば、同じ技術は真の増幅要因となり、誤導されるという隠れたコストなしに大きな利点をもたらす。
同じアウトプット、異なる判定
リーダーが見落としがちなのは、ある文脈ではAIの「ハルシネーション」に見えるものが、別の文脈ではまったく問題のない創造的生成になり得るという点だ。アウトプット自体は変わっていない。変わったのはタスクである。
AIにマザーグースの「ジャックとジルは丘に登った」の続きを書かせれば、童謡の続きを完成させるかもしれないし、まったく新しいものを作るかもしれない。「ジャックとジルは丘登りのKPIについて足並みをそろえるため、戦略オフサイトに出かけた」という具合だ。童謡の忠実な続きを求めていたなら、それは失敗である。創造的なひねりを求めていたなら、それは成功である。
教訓は、AIが事実と虚構を区別できないということではない。区別するかどうかは、AIそのものではなく、組織が下す選択に左右されるということだ。どのように設定するか、どんなデータを与えるか、どんなガードレールを置くかで決まる。リーダーは、各タスクに何が必要かを事前に明確にしなければならない。組織は、AIのアウトプットがそれを満たしているかを検証するガバナンスを整える必要がある。
これこそが経営上の課題であり、正確に言えば、創造性を排除することではない。ワークフローごとに、創造的な逸脱が価値を加える場面とリスクを誘発する場面を見極め、そのうえで評価を設計することである。ブレインストーミングは大胆で予想外のアイデアから恩恵を受ける。一方、取締役会向け報告書では、捏造された事実が1つでもあってはならない。同じ基盤技術が、まったく異なる2つの基準に照らされるのである。
これは「ヒューマン・イン・ザ・ループ（人間がプロセスに関与すること）」の意味を変える。人間がプロセスの最後にAIの生成物を機械的に承認することを意味すべきではない。むしろ、人間の判断は不確実性と結果の重大性が最も高い場所に集中させるべきだ。組織は、AIが生成を始める前に「良い」とは何かを定義し、その基準に照らしてアウトプットを検証すべきである。
人間の判断は、単にAIの速度を落とすために存在するのではない。リスクが理解され、管理されている場所で、組織がより積極的にAIを活用できるようにするものなのである。
ウェットラボの原則
フロンティアAIを構築するリーダーたちは、生成と評価という同じ運用上の分離を指摘している。イリヤ・サツケバー氏が述べているように、AIモデルのベンチマークスコアが上がっても、モデルのアウトプットと信頼できるビジネス成果とのギャップが自動的に埋まるとは限らない。[1] エージェント型AIに関するアンドリュー・ング氏の助言は、そのギャップを埋める実践の姿を示している。組織には、AIシステムがどのように、なぜ失敗するのかを理解するための体系的な評価とエラー分析が必要である。[2] エージェントが検索、取得、起草で失敗したとき、問うべきなのは単に「AIが間違えた」ということではない。プロセスのどこで失敗したのか、次回その失敗をどう検出するのか、という問いである。
AlphaFoldに関するデミス・ハサビス氏の発言は、この考えを具体化している。[3] AIは従来の手法よりはるかに速くタンパク質構造を予測できるが、その予測はなお実験によって検証されなければならない。 ここで「ウェットラボ」が登場する。実験室での実験は、計算上の予測だけでは得られない現実世界での検証を提供するのである。
AIが予測を生み出し、実験がそれを検証する。同じ原則は、ビジネスAIにもますます当てはまる。
これこそが、ビジネスAIに関する経営陣の合言葉であるべきだ。重要なAIワークフローにはすべて、それぞれに対応するウェットラボが必要である。サプライチェーン計画では、AIが推奨した迂回ルートについて、承認前に物流の専門家が通関遅延や輸送業者の信頼性といった制約に照らして確認することかもしれない。信用メモの起草では、AIが生成した草案を社内委員会がレビューし、顧客に送付する前に数値と提言を元の財務諸表に照らして検証することかもしれない。[4] タスクによっては、人間によるレビュー、AIのアウトプットを事前に定めた基準に照らして体系的に確認する自動テスト、監査証跡、法務による承認が必要になる場合もある。 仕組みは異なる。しかし原則は変わらない。AIはあり得る答えを生成し、組織はその答えが行動に移すに足るものかどうかを判断する信頼できる方法を必要とする。
これは、組織が学習と能力開発にどう取り組むかに直接的な示唆を持つ。AIが最初の製品提案の作成、コードの記述、データ分析、提言の生成に関わる作業をより多く担うようになるにつれ、希少な人間のスキルは、評価、エラー分析、アウトプットが間違っていると認識するために必要な領域専門性になる。
これはまた、組織が評価そのものを設計する能力を高める必要があることも意味する。成功したAIアウトプットとは何かを定義し、それを測定するテストを作成し、失敗を体系的に分析する能力である。リーダーは、組織がどの評価スキルを構築し、どの評価スキルを保持し、AIが仕事の性質を変えるなかでそれらをどう磨き続けるべきかを問うべきである。
AIリーダーシップの課題を一文で言えば、AIの大規模な生成能力によるメリットを享受しつつ、その出力を評価し、実害が出る前にデメリットを回避する組織の力を養うことである。
ボトルネックはもはや、AIがどれだけ速く答えを生み出せるかではない。組織が、有用なものと信頼できないもの、創造的なものと誤ったもの、もっともらしいものと実行に値するものを、どれだけ効果的に見分けられるかである。
AI生成のアウトプットがあふれる時代において、判断こそが希少資源になる。
