組織は、AIガバナンスの枠組みを構築すれば、AIを活用する企業へと進む勢いが削がれると考えがちだ。だが実際には、優れたAIガバナンスの枠組みは、AIをより大きな善のために活用したいという組織の志と、その善が実際にもたらされているという保証とを結びつける結合組織である。
AIガバナンスが取締役会レベルの優先課題になった理由
今日、多くの企業がAIプログラムを急速に展開している。しかし多くの場合、それに伴うリスクを管理するために必要な統制システムは、まだ整備されていない。その結果として企業が直面するリスクは極めて大きく、次の要素から成る。一方には、偏りのある、あるいは不正確な結果を生み出すAIシステムの利用によって生じ得る、企業の評判やブランドへの損害リスクがある。
他方で、AIシステムを利用する企業には法的リスクもある。AIに特化した規制を導入する国や地域がますます増えているためだ。最後に、自律システムによる損害リスクがある。こうしたシステムは、人間のオペレーターが何が起きているかを認識する前に損害を引き起こす可能性がある。これらすべてのリスクは、経営陣が管理しなければならない。したがって、AIガバナンスは取締役会レベルの優先課題になっている。
効果的なAIガバナンスの枠組みを支える中核的な柱
AIのための効果的なガバナンスの枠組みは、以下の中核的な柱に基づく。
・オーナーシップと説明責任
・リスク分類と階層化
・モデルのライフサイクル管理
・データガバナンス
・透明性と文書化
・継続的なモニタリング
NISTのAIリスクマネジメントフレームワーク、EUのAI法、AIマネジメントシステムの国際規格であるISO/IEC 42001など、実証済みの枠組みや基準に基づいてAIガバナンスの枠組みを構築することで、組織はAIへの取り組みに対して、複数の法域の要件に対応可能な、単一のエンド・ツー・エンドのガバナンスシステムをつくることができる。
ハンプトンズ・グループでは、効果的なAIガバナンスは実践的で、リスクに基づき、企業戦略と密接に結びついているべきだと考えている。目的は責任あるイノベーションを遅らせることではなく、それを確信を持って拡大できる条件をつくることにある。そのためには、明確なオーナーシップ、定義されたリスク階層、規律あるデータ実務、モデルのライフサイクル管理、文書化、継続的なモニタリングが必要だ。私たちはリーダーに対し、これらの柱をコンプライアンスのチェックリストではなく、統合された業務システムとして扱うよう助言している。ガバナンスが意思決定のあり方に組み込まれれば、AIは組織全体でより有用で、より信頼され、より持続性のあるものになり得る。
イノベーションを制約するのではなく可能にするガバナンスの設計
CEOがAIガバナンスを整備するうえで直面する最大の課題は、何らかの形のAIガバナンスが、組織内でAIを開発し実験するプロセスに摩擦をもたらすことを認識することだ。したがって、その摩擦をできるだけ小さくするために、AIガバナンスを賢く設計する必要がある。例えば、高リスクのAIアプリケーションには現在と同等、あるいはそれ以上の精査が必要になる一方、社内の生産性向上ツールや重大な影響を及ぼさない分析などの低リスクのアプリケーションは、簡素な審査プロセスを通じて迅速な承認プロセスを通ることができる。
部門横断的なAI協議会とセンター・オブ・エクセレンスも重要である。これらの組織は、テクノロジー、法務、コンプライアンス、事業部門のメンバーで構成され、組織内のさまざまなAI関連プロジェクトのための構造とプロセスを共同で策定する。これにより、組織はさまざまなAIへの取り組みをより適切に管理し、AIガバナンス体制における意思決定プロセスを改善できる。
AIライフサイクル全体に説明責任と人間による監督を組み込む
AIシステムの意思決定に対する説明責任は、その意思決定について責任を負うことができる実在の人物がいる場合にのみ実装される。したがって、すべてのモデルにはオーナーが必要だ。それぞれの意思決定は詳細に文書化されなければならない。さらに、非常に重要な意思決定については、ヒューマン・イン・ザ・ループのチェックポイントが必要である。こうした意思決定が重要なのは、個人の権利に影響を与え、財務上の意味を持ち、さらには人々の身体に影響を及ぼす場合もあるためだ。必要に応じて外部の関係者（規制当局、ステークホルダー）にデューデリジェンスを証明するため、すべての意思決定について包括的な監査証跡を作成する必要がある。
倫理的なセーフガードは、価値観に基づくあらゆる組織の中核を成すものであり、したがってガバナンス全体のシステムに統合される必要がある。ガバナンスの枠組みの一部として、次の施策を実施できる。バイアステストと公平性レビュー、AIシステムの意思決定に関する説明可能性の要件、そして発生し得る問題に対処するための措置である。
ハンプトンズ・グループでは、説明責任こそAIガバナンスが現実のものになる接点だと見ている。意味のあるAIのユースケースにはすべて、事業上のオーナー、文書化された目的、明確な承認基準、関与するリスクに見合った人間による監督が必要である。これは、AIが顧客、従業員、財務上の意思決定、法的義務、公共の信頼に影響を与える場合に特に重要だ。リーダーは、システムに何ができるかだけでなく、その利用、審査、結果について誰が責任を負うのかも把握していなければならない。強固な監督はイノベーションを弱めるものではない。組織がAIを、測定可能で、擁護可能で、組織の価値観に沿った形で採用するための自信を与えるものだ。
枠組みを運用に落とし込む：方針から実践へ
ガバナンスを運用に移す際には、まず既存のAIアプリケーションをすべて分類することが重要だ。次に、文書化、モニタリング、承認プロセスを自動化するガバナンスツール一式を確立する。そのうえで、技術部門と事業部門のすべてのステークホルダーが研修を受け、自分たちに課されたガバナンス上の義務を理解しているようにする。最後に、文書化されているモデルの割合、インシデントの発生頻度、新しいモデルの承認に要する時間など、ガバナンスプロセスの成熟度を測定・追跡するための測定可能な指標を整備する。
AIによって持続可能な価値を生み出すには、AIの開発と利用をめぐって、オーナーシップを明確に割り当て、適切な水準の監督を置き、AIの利用に対する永続的な説明責任の形を確立する一連の構造をつくることが重要である。これらは野心の障害ではない。野心を実現するための前提条件である。今日、AIガバナンスを適切に整備できる企業は、ますます複雑化する規制上の制約や、ますます自律的で、さらにはエージェント型になっていくシステムの広がりに対処するうえで、最も有利な立場に立つことになる。
