プロダクト、データ、プライバシーが交差する領域で20年にわたり仕事をしてきて、経営幹部が同じ意味で使いがちな3つの言葉が、実はまったく同じ結果を求めているわけではないことを学んだ。プライバシー。インテグリティ。信頼である。
これらは同じではない。そしてその違いこそ、多くのAIガバナンスがつまずく場所である。
インテグリティは開示によって成り立つ。ある数字を信頼できるのは、それがどこから来たのか、誰が触れたのか、誰かが変更したのかを確認できる場合だけである。監査証跡、来歴、記録である。プライバシーはその反対の本能によって動く。厳重に閉じ、見せるものを減らし、不要なものは忘れるということだ。
すべての組織は、この緊張関係のどこかに着地点を見いだす。信頼とは、方針文書で宣言する価値ではない。この2つの力の間で到達する合意であり、意図して設計したかどうかにかかわらず、最終的にはアーキテクチャに組み込まれる。
その合意はいま、新たな圧力にさらされている。AIエージェントが、多くの企業でいつの間にか最も特権的なユーザーになっているからだ。AIエージェントはメールを読み、資金を動かし、データベースに書き込み、かつては何層もの人間による承認の奥に置かれていた顧客記録に触れている。
データは、私たちが準備できていなかったことを示している。IBMの2025年版「Cost of a Data Breach Report（データ侵害のコストに関する報告書）」は、データ侵害の世界平均コストを444万ドル（約7億100万円）、米国平均を過去最高の1022万ドル（約16億1000万円）とした。取締役会が注目すべきなのは、AIに特化した調査結果である。AI関連の侵害を受けた組織の97%は、当該AIシステムにアクセス制御を設けていなかった。63%はAIガバナンス方針をまったく持っていなかった。従業員が承認を得ずに組み込むツールを意味するシャドーAIは、およそ5件に1件の侵害で確認され、請求額を約67万ドル（約1億600万円）押し上げた。
導入が監督を追い越した。それが問題のすべてであり、インシデントによってその差が埋められる前に、こちらから埋める価値がある。エージェントが重要なものに触れる前に、私なら答えを得ておきたい4つの質問がある。
1. このエージェントは実際に何にアクセスできるのか
多くのチームは、エージェントを導入した人物の権限をそのまま与える。ほとんどの場合、それはタスクに必要な範囲を超えている。エージェントがアクセスできるすべてのシステムを棚卸しし、それぞれについて、業務を遂行できる最小限のアクションに範囲を絞るべきだ。請求書を読むエージェントが、顧客データベースに書き込む必要はない。
これは当たり前に聞こえる。だが、97%という数字は、それが実行されていないことを示している。
2. それが何をしたのかを証明できるか
エージェントが何らかのアクションを取り、後から顧客、監査人、規制当局に説明しなければならなくなった場合、それを再構築できるだろうか。判断、その際に参照したデータ、実行したアクションを記録することだ。インテグリティに関わる作業は、自社と極めて厄介な対話との間に立つ唯一のものになるその瞬間まで、華やかには見えない。
3. 誰が個人として責任を負うのか
これは米国の経営幹部が日常的に見落とす部分である。多くの国では、プライバシー侵害について個人的に責任を負う現地代表者を企業が指名することを義務づけている。抽象的な法人ではない。名前と住所を持つ一人の人間であり、法域によっては刑事責任にさらされる。中国の枠組みでは、最も重大な事案について最長7年の拘禁刑に及ぶ。日本とタイの刑期はそれより短いが、原則は同じである。
米国では、企業構造が打撃の大半を吸収する。会社が支払い、株価は1日下落し、経営幹部は予定表をそのまま維持する。しかし、個人の自由が予算項目ではなく、自身の刑事責任という項目として載るとき、人は方針をまったく違う目で読む。国際展開を進めるなら、市場参入後ではなく参入前に、その指名される人物が誰になるのかを特定すべきである。
4. 自社のビジネスモデルは信頼に報いるのか、それとも静かにむしばんでいるのか
企業がデータをどう扱うかを予測する最良の手がかりは、その企業がどう収益を上げているかである。顧客が保護されるために対価を支払う場合、インセンティブとプライバシーは同じ方向を向く。プロダクトが無料で、第三者がユーザーへのアクセスに対して支払う場合、圧力は反対方向に働き、何かが破綻するまで静かに積み重なる。
価値観の表明では、それを修正できない。代わりに、次のことを試すとよい。各プロダクトラインがどのように収益を得ているのかを、1文で書き出す。次に、緩めればより多くの収益につながるデータ慣行をすべて列挙する。そのリストこそが実際のリスク登録簿であり、通常はコンプライアンスチームが管理しているものより短く、より居心地の悪い内容になる。各項目に指名された責任者とレビュー日を割り当て、ビジネスモデルが変わるたびに見直すべきだ。
コンプライアンスは下限であり、上限ではない
これらはいずれも、コンプライアンスを満たすことと同じではない。プライバシー規制は拡大を続けている。国際プライバシー専門家協会（IAPP）によれば、現在は世界人口のおよそ80%が何らかのデータ保護法の対象となっている。罰則も重みを持つ。ガートナーは、2025年に米国の州だけで34億ドル（約5370億円）のプライバシー関連制裁金を科したと推定している。
しかし、企業はあらゆる法的基準を満たしていても、人を粗末に扱うことがある。コンプライアンスはチェックリストである。信頼とは、向かいの席に座る顧客に説明してもよいと思えることだが、ほとんどのチームはその2つ目の対話を予定に入れない。
プライバシー、インテグリティ、信頼は、これからも互いに引っ張り合う。これをきれいに解決したと主張する者がいれば、何かを売ろうとしているのだ。重要なのは、そのオーケストレーションにある。どれだけ開示し、どれだけ保護し、破綻したときに誰が答え、そして正しく行うことで収益が得られる仕組みになっているかである。
エージェントを拡大する前に、この4つの質問に答えるべきだ。さもなければ、その後に答えることになる。しかも、そのコストを決める人物の前で、である。
