エージェント型AIがコンテンツ生成から意思決定や行動へと移行するなか、取締役会や経営幹部は、AI監督モデルとしての「ヒューマン・イン・ザ・ループ」の先を見据えている。彼らは、人間をAIのプロセスの単なる一部にするのではなく、明確にAIを統率する立場に置くアプローチを採用しつつある。
2024年、Salesforceのポーラ・ゴールドマンは「ヒューマン・アット・ザ・ヘルム」を提唱した。2026年1月には、Accentureの会長兼CEOであるジュリー・スウィートがダボスで「ヒューマン・イン・ザ・リード」を取り上げた。これらのアプローチは競合する概念ではなく、それぞれが異なる目的を果たし、全体として「監督スタック」を形成する進化を示している。イン・ザ・ループでは、人間がAIのプロセスと出力をレビューする。アット・ザ・ヘルムでは、人間がシステムの舵を取る。イン・ザ・リードでは、人間が成果に責任を持ち、ループと舵取りをどこに置くべきかを決める。
ヒューマン・イン・ザ・ループ：出力をレビューする
「ループ」は、人間が編集する草案を生成する初期の企業AIに適していた。エージェントが意思決定し、行動を起こすようになるにつれ、ループには次の3つの面で負荷がかかっている。
- 人間によるレビューは速度に追いつかず、認知的過負荷が起こり得る。エージェント型AIはしばしば、ミリ秒単位で動作する複数の並行システムを用い、レビュアーが通知を開く前に数多くのアクションを完了する。レビューの期限が意思決定の複雑さではなくAIの速度に合わせて設定されると、認知的過負荷につながり得る。
- 監督が形骸化する。処理量が管理可能な場合でも、自動化バイアスにより、反対の証拠があるにもかかわらず人間がシステムの推奨を受け入れてしまうことがある。承認はクリック、あるいは沈黙になる。プロセス指標が意思決定の質ではなく、完了したレビュー件数、所要時間、承認率を追跡する場合、このパターンを強化し得る。
- 効率性は長期的リスクを生む可能性がある。「AIファースト」の考え方は、人間を加える前に、そのタスクになぜ人間が必要なのかをチームに示すよう求める。組織がAIの動きを把握し、必要に応じて介入し、結果に責任を持てるなら、人間によるレビューを減らすことは妥当な判断になり得る。長期的なリスクは、説明責任よりもコスト削減とスピードが優先される場合、あるいは組織が誤りを見抜くために必要な専門性を失う場合に生じる。人材債務と同様に、これは「監督債務」を生む。今日の貸借対照表には反映されない将来のコストである。
ヒューマン・アット・ザ・ヘルム：システムの舵を取る
「ヒューマン・アット・ザ・ヘルム」は、人間の役割を個別の出力をレビューすることから、システムそのものの舵取りへと移す。人間は成果を導くために、統制、パラメーター、説明責任を設定する。
この作業の多くは、AIハーネスの中で行われる。AIハーネスとは、ツール、メモリー、権限、セーフガード、監査ログを管理する、モデルを取り巻くソフトウェアである。同じモデルを使う2つの組織でも、ハーネス設計によってリスク水準は大きく異なり得る。
舵取りにも限界がある。管理策は確認されないまま放置されれば有効性が低下し、よく設計されたハーネスであっても説明責任を負う所有者を必要とする。そうした所有者がいなければ、組織は研究者マデリン・クレア・エリッシュが「モラル・クランプル・ゾーン」と呼んだリスクに直面する。自動化システムに最も近い人が失敗の影響を引き受ける一方、より広範な設計上の選択に責任を持つ人々への精査は弱くなる状況である。取締役会の関心にも同様の傾向が見られる。WTWの2026年取締役・役員調査では、回答者の50%がAIのエラーと誤情報を主要な懸念として挙げた一方、ガバナンスの弱さや管理されていないAI利用を挙げたのは32%にとどまった。
ヒューマン・イン・ザ・リード：成果に責任を持つ
ヒューマン・イン・ザ・リードは、他の2つのモデルが前提としていながら必ずしも保証しないもの、すなわち所有責任を加える。リーダーは各AIシステムの目的を定義し、その結果に対する説明責任を維持し、人間の判断をどこに適用するかを決める。ループ内なのか、舵取り役なのか、あるいはその両方なのかである。
7つの主要実践
「ヒューマン・イン・ザ・リード」の監督モデルを採用する組織は、監督スタック全体にまたがる7つの実践に注力する傾向がある。
イン・ザ・ループ
- 認知的過負荷からの保護：レビュアーには管理可能な業務量と期限、必要な支援とツール、集中するための専用時間が与えられる。燃え尽きを防ぐため、業務量は監視される。
- ゲートキーピングではなく監督としてのレビュー：すべてを事前承認するのではなく、監査証跡、サンプリング、例外レビューを用いることで、システム上の問題を特定しやすくする。
アット・ザ・ヘルム
- ハーネスに組み込まれた境界：禁止された行為、保護対象データ、支出上限、エスカレーションのトリガーが機械の速度で機能し、所有責任はテクノロジースタック全体に及ぶ。
- 従業員チームのように管理されるAIエージェント：エージェントには明確な目標と境界、エスカレーションすべき課題、そして結果に責任を持つ人間が設定される。
イン・ザ・リード
- すべてのエージェントに対する明確な所有責任：各システムには、その使命と成果に責任を負う指名されたリーダーがいる。
- 人間の専門性の維持と介入能力：組織は、AIが効率性を高めるなかでもAIの出力を評価できる能力を維持する。また、すべてのエージェントを一時停止または停止する方法を維持し、テストする。
- 作り手としてのユーザーへの支援：研修とパフォーマンス期待値は、人々がAIを使って生み出したものに責任を持ち、必要に応じて疑問を呈するのに役立つ。WTWの従業員体験に関する調査は、AIを活用した仕事における自分の役割を人々が理解すると、自信が高まることを示唆している。
ループがなお必要な領域
新しいモデルはループを不要にするものではない。人々の権利、生計、安全に影響するものを含め、影響が大きい、または不可逆的な意思決定にはなおループが必要である。そのような場合、人間には判断するための十分な時間と情報が必要だ。EU AI法第14条は、高リスクシステムについてこれを正式に定めている。違いは、ループをあらゆる場面に適用するのではなく、リーダーがどこにループを置くべきかを決める点にある。
高まる取締役会のAI監督
AIガバナンスに対する取締役会の関心は高まっている。しかしWTWの2026年取締役・役員調査では、AIを効果的に監督するためのスキルと知識を取締役会が備えていると答えた回答者は55%にとどまった。同報告書はまた、AIを十分に監督していない取締役に対し、執行措置や証券集団訴訟がすでに影響を及ぼしているとも指摘している。
そのギャップを埋めようとする取締役会は、実務的な問いを投げかけている。このエージェントの成果に責任を持つのは誰か。今日それを一時停止できるのか。それが誤っていると認識できるのか。このシステムが失敗した場合、どのような能力が必要になるのか。
本欄では以前、全米取締役協会（NACD）の更新版AIガバナンスモデルを取り上げた。これはディラン・サンドリン、ヘルムート・ルートヴィヒ博士、ベンジャミン・ファン・ヒッフェン博士が概説したものだ。その4要素は、この監督スタックと整合する。戦略的監督はAIの目的を定義し、資本配分はコスト削減と監督債務を比較衡量し、AIリスクはループと舵取りの境界を設定する要因となり、テクノロジー能力はリーダーがAIの誤りを認識する助けとなる。
1979年のIBM研修資料に由来すると広くされる一節は、いまなお有効である。「コンピューターは決して説明責任を負うことができない。したがって、コンピューターに経営判断をさせてはならない」。約50年後、この原則は新たな重みを帯びている。「ヒューマン・イン・ザ・リード」は、人間がその責任を効果的に果たせるレベルでAIに対する説明責任を持ち続けることにより、監督スタックを完成させる。
