私が話をする企業の大半は、AIについて同じ問いを投げかけている。「どのモデルを使うべきか」という問いだ。
だが、私はそれは間違った問いだと考えている。数年以内に、ビジネスAIの大半を支えるモデルは、今日のコンピューティングと同じように借りるものになり、誰もが予想する以上に頻繁に入れ替えられるようになると私は予測している。
代わりに問われるようになるのは、「AIに何をしてよいと誰が決めるのか」だ。私はその層を「判断（judgment）」と呼んでいる。それは高性能なモデルと企業の実際のシステムの間に位置するものであり、どの研究所も貸し出すことはできない。なぜなら、それは自社のポリシー、自社の先例、自社の利害からできているからだ。
知能はユーティリティになりつつある
モデル市場はコモディティ市場のようになり始めている。フロンティアラボは価格と速度で競い合い、オープンウェイトモデルは数カ月遅れで追随する。
価値は別の場所へ移りつつある。調査会社ガートナーは、2027年までに組織が「小規模でタスク特化型のAIモデル」を、汎用の大規模言語モデルの少なくとも3倍の頻度で利用するようになると予測している。これは、特定のビジネス文脈を必要とするタスクでは、汎用モデルの精度が低下するためだ。汎用知能はコモディティであり、企業固有の部分こそが価値なのである。
クラウドへの移行期、最終的にほとんどの人はデータセンターを所有することにこだわらなくなった。彼らが重視したのは、自社のデータを所有することだった。AIも同じ方向に向かうと私は見ている。コンピューティングと知能は借り、判断は所有するのだ。
「どのモデルか」から「どの行動か」へ
誤った回答をするチャットボットは恥ずかしい存在で済む。だが、誤った行動を取るエージェントはインシデントになる。エージェントはいまや顧客記録を読み、CRMを更新し、メールを送り、アクセス権を変更し、支払いを実行する。彼らの進展を遅らせているのは、知能の問題ではなく、権限の問題である。
言い換えれば、導入が制御を上回って進んでいる。パロアルトネットワークスの「2026年アイデンティティ・セキュリティ情勢レポート」によると、組織の99%がAIエージェントを導入しており、そのうち40%のエージェントはすでに企業データにアクセスできる。さらに、マシンアイデンティティの数は人間に比べて109対1に達しており、前年の82対1から増加している。
それにもかかわらず、AIエージェントの認証情報を取り消すことができる組織は37%にとどまり、エージェントの行動について改ざん不能なログを保持している組織は30%にすぎない。米国立標準技術研究所（NIST）が2026年2月に公表した、ソフトウェアおよびAIエージェントのアイデンティティと認可に関するコンセプトペーパーも、エージェントをどのように識別し、認可し、委任し、ログに記録すべきかという同じ問いを提起している。
なぜ既存の2つのアプローチはいずれも失敗するのか
企業がエージェントを制御する方法は現在2つある。1つは、すべての行動の前に人間に確認することだ。これはエージェントを安全にするが、遅くする。人がボトルネックとなり、やがて読まずに承認するようになると私は見ている。
もう1つの選択肢は、エージェントに常時アクセス権を与えることだ。これは速いが危険である。エージェントそのものがリスクになる。前述のパロアルトネットワークスのレポートでは、特権アクセス要求の61%が、オンデマンドではなく常設の権限でいまだに処理されていることが明らかになっている。
どちらも同じ理由で失敗する。正しい答えはタスク次第だからだ。経理部門が承認したチケットについてエージェントが請求書を照合している場合、顧客のメールアドレス一覧をエクスポートすることは問題ない。しかし、同じ行動でも、Slackスレッドの要約を求められている場合には不適切である。役割、スコープ、静的なルールのいずれも、この違いを捉えることはできない。違いは行動そのものにあるのではなく、文脈にあるからだ。
あらゆるビジネス判断についてルールを書くことはできない。すべての手順を人間に読ませることもできない。残された道は、エージェントが行動を起こそうとするその瞬間に、自社の利益に関する知見を用いて、行動ごとに下す判断である。
「判断を所有する」とはどのような状態か
キャリアの初期に、私はグローバル銀行でコンプライアンスプラットフォームを構築した。ポリシーは文書化されており、その量は数千ページに及んだ。しかし、実際の意思決定は、それらのポリシーを具体的な状況に当てはめる人々によって行われていた。そこでは、どのルールブックにも記されていない先例や文脈が使われていた。その銀行が所有していた最も価値あるものはポリシー集ではなく、自らがどのように判断してきたかの記録だった。
エージェントについても同じことが言えると私は考えている。判断を所有するとは、企業のポリシーと自社の承認履歴を、自らが管理する意思決定層へと変えることを意味する。それは、提案された各行動を、タスク、依頼者、裏付けとなる証拠（チケット、承認、明示された目的）、そしてエージェントがすでに何をしたのかに照らして評価する小規模なモデルである。権限は限定的で、有効期限があり、そのタスクにひも付けられているべきだ。そうすれば、作業が終わった時点でアクセス権も終了する。（完全な透明性のために述べると、私の会社はAIの行動を承認する企業固有モデルの開発を支援している。）
エージェントを評価しているあるグローバル再保険会社との対話で、最も重要だった問いはモデルの精度ではなかった。事後的に、なぜエージェントにある行動が許可されたのかをガバナンス委員会が説明できるかどうかだった。自社で所有する判断ならそれに答えられるが、借りた判断では答えられない。
複利的な効果もある。文脈を伴うすべての許可と拒否が、学習データになる。意思決定層は毎週、よりその企業らしくなっていき、その記録は他のどの企業も買い取ることのできない資産となるのだ。
どこから始めるべきか
1. モデル選びを戦略ではなく調達として扱う。 交換可能な状態を保ち、1社のベンダーのスタック内に自社の統制を組み込まないことだ。
2. ポリシーを平易な言葉で書き、境界事例の例を添える。 そのコーパスが、判断層の種になる。
3. すべてのエージェントの行動を文脈とともに記録する。 これには、誰が依頼したのか、どのタスクのためか、どの証拠に基づくのか、どのような判断が下されたのかが含まれる。
4. エージェントに第3の権限モードを与える。 「毎回確認する」と「フルアクセス」の間にあるものが必要だ。タスクに限定され、タスク終了時に失効する、行動ごとの承認である。
5. 境界は決定論的に保つ。 判断はモデルに行わせ、執行はシステムに担わせること。
5年後、企業のエージェントを支えるモデルは、多かれ少なかれ交換可能になっていると私は考えている。そのエージェントを他社のものではなく自社らしく振る舞わせるものは、自社が所有する判断である。いまから収集を始めるべきだ。
