企業がAIを中核的な業務機能に統合する動きを急速に進めるなか、依拠するAIシステムが信頼に足るものであると、どのように確認するかという問いが一層重要になってきている。
多国籍企業にとって、この問いにはさらにもう一つの次元が加わる。すなわち、私たちは何を保証しようとしているのか、という点だ。一つの答えはAIそのものである。企業は、AIシステムが正確で、安全で、堅牢であり、適切にガバナンスされ、意図どおりに機能していることを確認する必要がある。
しかし、企業はAIを単独で導入するわけではない。不正検知、与信評価、サプライチェーン管理、顧客対応、製造支援、市場分析など、ビジネス機能を実行するためにAIを使用する。そして、それらの機能はますます国境を越えるようになっている。
あるAIシステムが1つの国で徹底的にテストされ、その後、基盤となるテクノロジーを実質的に変更することなく別の国に導入されることがある。しかし、それを取り巻く環境は大きく変わり得る。
データの管理方法は異なるかもしれない。国境を越えるデータ移転には異なる制限が課される可能性がある。クラウドやコンピューティングのインフラは、別の要件の対象になるかもしれない。規制当局は、AIの利用方法に異なる条件を課すことがある。地政学的な動向も、AIを活用した機能が依存する技術、サプライヤー、インフラへのアクセスに影響を及ぼし得る。
これは、国ごとの差異がすべてAIリスクを生むという意味ではない。より有用な問いは、その差異が、AIを活用した業務機能が意図どおりに機能するために実際に依存しているものと交差するかどうかである。
この国境を越える次元は、10月1日にスタンフォード大学で開催されるAIアシュアランス・カンファレンスで議論される。同会議では、テクノロジー、ビジネス、金融、学術界、国際機関のリーダーが、AIシステムへの信頼をいかに確立し、維持するかを検討する。
TrustModel.AIのチーフ・カスタマー・オフィサーであり、同会議のリーダーの1人であるラメシュ・チトール（Ramesh Chitor）は、次のように補足する。
「モデルを一度認証すれば、それで終わりにしたくなるのが本能だ。しかし、国境を越えるのはモデルそのものではなく、ビジネス機能なのだ。ニューヨークでクリーンな評価を得た不正検知エンジンが、コードを1行も書き換えることなく、パリやシンガポールでは実質的にまったく異なるリスクをはらむものになり得る。企業が理解しなければならない転換点はここだ。保証とは、壁に飾る額入りの証明書ではない。それは機能とともに移動し、それを取り巻く環境を監視し続けなければならないのだ」
分析単位を転換する
国際的に事業を展開する企業にとって、この問題に取り組む一つの出発点は、分析の単位を転換することである。AIモデルを単体で検討するのでも、国そのものをリスクとして扱うのでもなく、保証の対象として適切なのは、特定の環境下で稼働するAI対応の業務機能であろう。
そこから、5段階のアプローチが導かれる。
1. 何を保証するのかを定義する
米国に本社を置き、不正の可能性のある取引をリアルタイムで検知するAI対応システムを開発した仮想のグローバル銀行を想定しよう。
米国での導入前に、この銀行は精度、信頼性、サイバーセキュリティ、潜在的バイアスを検証し、適切な人的監督を確立し、適用される要件を満たしているかを判定する。次に銀行は、ほぼ同じシステムをカナダ、フランス、シンガポールでも展開しようと考える。
まず問うべきは、これらの国についてではない。問うべきはビジネスについてである。銀行が最終的に必要とするのは、AI対応の不正検知機能が、信頼性をもって、安全に、合法的に稼働できるという保証である。モデル単体ではなく、この機能こそが分析の単位となる。
2. 重要な依存関係を洗い出す
次に、その機能が稼働するために何を必要とするかを特定する。不正検知システムは、顧客取引データ、特定情報を国境を越えて処理・移転する能力、クラウドコンピューティング、サードパーティAIモデル、リアルタイム接続、集中化されたサイバーセキュリティ資源、想定する方法でAIを使用する規制上の許可などに依存しているかもしれない。
こうした依存関係を洗い出すことで、国際的な分析の範囲は大きく絞られる。ある国は米国と何百もの点で異なり得る。しかし、その大半はこの特定の用途にはほとんど関係しないかもしれない。
各国の条件を重要な依存関係に結びつける
3. 関連する国境横断的なエクスポージャーを特定する
ここで初めて、銀行は事業を展開しようとする法域を検討する。カナダ、フランス、シンガポールが一般的に「よりリスクが高い」かどうかを問うのではなく、各法域における規制、政治、制度、地政学上のどの条件が、特定された依存関係と交差するかを問うのである。
この区別は重要だ。重要な依存関係にほとんど影響を及ぼし得ない地政学的対立は、保証にとってあまり関係がないかもしれない。一方で、見かけは技術的なデータ規制の変更も、システムが特定情報の集中処理に依存している場合には、極めて重大な意味を持ち得る。
4. それらのエクスポージャーが機能にどう影響し得るかを特定する
次に分析は、広範な条件から具体的なメカニズムへと進めるべきである。データ移転の制限は、システムが利用可能な情報に影響するか。ローカライゼーション要件は、データを処理すべき場所を変えるか。サイバーセキュリティ規則は、集中化されたインフラを利用する銀行の能力に影響するか。規制当局は追加の人的監督を求めるか。輸出管理、制裁、その他の政府措置は、システムが依存する技術プロバイダーへのアクセスを制限するか。
重要なのは、単にリスクが存在するかどうかではない。政府の決定や事業環境の変化を、AI対応機能が必要とする何かへと結びつける現実的な経路があるかどうかである。
5. 保証プロファイルが変化するかを監視する
最後に、保証はシステム展開時に終わるものではない。どの依存関係が重要で、それらがどのように影響を受け得るかを銀行が把握すれば、継続的に監視する価値のある規制、制度、地政学上の動向を、比較的少数に絞って特定できる。
データ移転規則、規制執行、サイバーセキュリティ要件、国際関係の変化は、基盤となるAIがまったく変わっていなくても、システムの保証プロファイルを変え得る。ここから、国際ビジネスに関するより広い示唆が導かれる。
同じ企業のために同じ機能を果たす同じAIシステムであっても、異なる法域では異なる保証プロファイルを持ち得る。そしてそれらのプロファイルは、コードを1行も変えずとも、時とともに変化し得るのだ。
AIが多国籍企業の中に組み込まれていくにつれ、保証は技術そのものが信頼できるかを問うだけでは済まなくなるかもしれない。企業は今後、2つ目の問いを問う必要が高まるだろう。
すなわち、我々がAI対応の業務機能に稼働を求めている環境下において、その機能を信頼できるか、という問いである。
保証から測定へ
そして、それは3つ目の問いにつながる。TrustModel.AIで私たちが最も多くの時間を費やしている問いである。
同じ機能が、進出する各法域で異なる保証プロファイルを帯びるのであれば、企業はその差異を実際にどう測定し、取締役会、規制当局、あるいはデータが懸かる顧客に対して、どう示すのか。
この種の複雑さに、記述的な宣誓は耐えられない。システムが「信頼できる」と主張するメモは、米国、カナダ、フランス、シンガポールの間で比較することもできず、データ移転規則が変わったときに再実行することもできず、ある市場でのプロファイルが別の市場から静かに乖離したかを取締役会に伝えることもできない。国境を越える問題が求めているのは、共通の分母、すなわち定性的な判断ではなく、測定可能で比較可能なシグナルとして表現された保証である。
これこそが、AI対応機能をEU AI法、NIST AIリスクマネジメントフレームワーク、SR 26-2といった認知されたフレームワークに対応づけ、その結果を単一の、継続的に更新されるスコアへと集約するロジックの背景である。保証が共通の基準に照らして測定されれば、銀行の不正検知機能はもはや「原則として」保証されるものではなくなる。それは、法域を横断して並べて読むことができ、事業環境が変化すれば再計算でき、問い合わせてくる誰に対しても説明できるプロファイルを帯びることになる。分析の単位は機能となり、証明の単位は、システムを取り巻く世界が動けば動く数値となるのだ。
