私が以前、ある取締役会を傍聴していたときのことだ。自動引受モデルの導入が承認された直後、私は「単一のポートフォリオセグメントにおける判定率が一晩で10ポイント変動したら何が起きるのか」と尋ねた。会議室は静まり返った。質問が複雑だったからではない。採決が通る前に、誰もそれを問おうとしていなかったからである。
これは、私が長年にわたり監査委員会やリスク委員会で繰り返し目にしてきたパターンだ。監督項目にはチェックが入るが、その下にあるシステムが誤った瞬間に何が起きるのかを説明できる人は、室内にほとんどいない。このギャップはテクノロジーの問題ではない。ガバナンスの問題であり、多くの取締役会がいま最も認めたがらない問題なのである。
委員会の背後にある「理解のギャップ」
何十年もの間、取締役会では、新たに浮上するリスクに対して、組織が従来から新しいリスクに対処してきた方法を取るのが本能的な反応だった。委員会を追加し、規程を改定し、責任者を指名するという方法である。このアプローチは、コンプライアンスリスクやレピュテーションリスクにはそれなりに機能した。すべての技術的詳細ではなくとも、その根底にある論理は大半の取締役にとってなじみのあるものだったからだ。人工知能はこのパターンを崩す。取締役は、AI監督委員会の設置に賛成票を投じることができる一方で、その委員会が監督することになるシステムについて、実質的な質問を1つもできない可能性がある。構造はつくられる。だが、それを使いこなすために必要な理解が自動的についてくるわけではない。
入手可能なデータは、多くの組織が望む以上にこの現実を厳しく示している。McKinseyが2025年12月に公表した取締役会ガバナンスとAIに関する分析によると、88%超の組織が少なくとも1つの業務機能でAIを利用していると報告しているにもかかわらず、AIに関する何らかの取締役会レベルの監督を開示しているFortune 100企業は39%にとどまる。専任委員会、関連専門性を持つ取締役、倫理機能のいずれかによるものを含めての数字である。さらに示唆的なのは、同じ調査で、取締役の66%が自社の取締役会についてAIに関する知識や経験が限定的、あるいはほとんどないと述べ、約3分の1がこのテーマは取締役会の議題に安定的に上がっていないと答えている点だ。
この結果は慎重に読むべきである。通常の前提を逆転させているからだ。取締役会は形式上、監督を担うと主張している。しかし自ら認めている通り、その監督を実質的に行使するために必要なリテラシーを欠いているのである。
統制不全の監査に携わった数十年が教えること
私自身の職業的基盤は、まさにこの問題の反対側にある。外部監査人として政府機関の財務統制を検証し、その後、複数の業界で取締役会や監査委員会に携わってきた年月は、その後のあらゆる役割を通じても色あせない教訓を与えてくれた。統制不全は、方針が欠落していることの産物であることはまれだ。はるかに多くの場合、方針は紙の上には存在するが、その場にいる誰も、それに疑義を呈するだけの立場や技術的基盤を持っていないことの産物である。実質的に問いただすことのできない統制は、統制として機能していない。それは統制の外観をまとった負債であり、損失が発生した後になって初めて発見される。
この区別は、真のエクスポージャーがどこにあるのかを変える。AI委員会を設置したものの、その名目上の権限下にあるシステムを問いただせない取締役会は、リスクを減らしていない。そのリスクを、開示書類上は解決済みの問題に見える構造の中へ移し替えただけである。規制当局や株主は、形式と実質の違いを最悪のタイミングで知ることになりがちだ。まさに自動化システムがすでに重大な損害を引き起こし、取締役会が何を、いつ知っていたのかを問われる時である。
監督失敗を再定義した「45分間」
このダイナミクスを最も明確に示す事例の1つは、人工知能に端を発したものではまったくないが、多くの取締役会がいまアルゴリズムシステム全般で直面している失敗の型を先取りしていた。2012年8月、ある大手企業で発生したコーディングの誤りにより、同社の自動売買システムが、社内の誰かがそれを停止できるまでの45分間にわたり、意図しない注文を市場に大量に流入させた。このミスによって同社は4億ドル（約616億円）超の損失を被り、企業の継続性（ゴーイング・コンサーン）が危ぶまれる事態にまで追い込まれた。
米証券取引委員会（SEC）のその後の命令は、実質的にはソフトウェアのバグに関する判断ではなかった。SECは、同社が自社の市場アクセスによって生じるリスクを制限するための十分な安全措置を欠いており、その不備によって何百万件もの誤注文がチェックされないまま市場に到達したと結論づけたのである。テクノロジーは、それを問いただす組織の能力よりも速く動いていた。そして導入を止める立場にあった者の中に、更新が失敗した場合に何が起きるのかを問うだけの地位、あるいはリテラシーを持つ者はいなかった。これは技術的問題の外観をまとったガバナンス不全であり、今日、多くのAI監督委員会の内部に静かに潜むエクスポージャーとまったく同じ形をしている。
より困難な「もう半分」を築く
これは、AI委員会の設置、責任を負う取締役の指名、テクノロジーの重要性の高まりを反映したガバナンス規程の更新に反対する議論ではない。そうした措置は重要であり、それを欠く取締役会は依然としてエクスポージャーを抱える。だが、それらは作業のうち容易な半分であり、ますます多くの取締役会がその半分を全体と取り違えている。より困難な「もう半分」とは、モデルが当初のパラメーターから逸脱した場合に何が起きるのか、その訓練データの完全性を誰が検証するのか、人間が気づく前に自動化された判断が損害をもたらした場合のエスカレーション経路はどうなっているのかを、最高技術責任者（CTO）に問える取締役を育てることである。その能力は、どれほどよく起草された委員会規程であっても、そこに委ねることはできない。実際にテーブルを囲む人々の判断力の中に宿っていなければならない。
2012年のあの企業の過ちを繰り返さない取締役会は、最も詳細なAI方針文書を持つ取締役会ではない。自らが承認しているものを本当に理解するために、取締役があえて居心地の悪さを引き受けた取締役会である。ガバナンスとは本来、リスクの周囲に構築された構造を主眼とするものではなかった。常に問われてきたのは、その構造の中にいる人々が次にどの問いを発するべきかを知っているのか、そして先に進む前に、誰かが本物の答えを待つ覚悟を持っているのかである。
