「責任あるAI（Responsible AI）」は、過去数年間で著しく成熟した。現在、ほとんどの組織がAIの原則、ガバナンス委員会、リスク評価、レビュープロセスの重要性を認識している。これらはいずれも重要だが、それらは旅の終わりではない。私の経験では、責任あるAIプログラムは、ポリシー、運用（オペレーション）、システムの3つのレイヤーにわたってセーフガード（安全対策）を構築することで成熟していく。組織は通常、AIの開発・使用方法を定義する原則とガバナンスを確立する「ポリシー」から始める。その後、それらの原則を実行に移すための「運用プロセス」（リスク評価、テスト、文書化、承認、監視など）を構築する。AIがより強力になり、製品に深く組み込まれるようになるにつれて、次のステップはセーフガードを「システム」自体に直接組み込むことだ。これにより、意思決定を一貫して、かつ大規模に導くことが可能になる。この成熟度モデルは、ピラミッドとして視覚化すると最も理解しやすい。組織は、ポリシーから始めて、時間の経過とともに運用の厳格さを加えるというように、上から下へと構築することが多い。しかし、成熟したプログラムは最終的に、下から上へと機能する。つまり、責任あるAIをスケーラブルで一貫性があり、持続可能なものにするための基盤として、システムに依存するのだ。ポリシーは依然として重要だが、最も強固なガバナンスは、もはや文書や委員会の中だけに存在するのではない。それは、テクノロジーそのものに組み込まれているのだ。
AIが変化した今、ガバナンスも変わらなければならない
AIシステムがより強力になり、より多くのタスクを自動化できるようになるにつれ、リスクベースのアプローチの必要性はかつてないほど高まっている。自動化できるすべての意思決定やプロセスを、自動化すべきというわけではない。基本的人権や安全性に対するリスクがある場合は特に、他よりもリスクが高いものもある。自動化できるものとできないものを分ける「フィルター」が必要だ。
これが特に重要なのは、今日の「責任あるAI」ガバナンスの大部分が、旧世代のAIを対象に設計されたためだ。それは、履歴書のスクリーニング、予算の異常検知、需要予測など、特定のビジネス業務のために開発された、限定的で特化型のシステムだった。
当時のガバナンスの考え方の多くは、現在も引き継がれている。しかし、システム自体は現在、格段に強力になっている。多くの異なるタスクを実行し、新しい状況に適応し、開発者が明示的に設計したことのないワークフローをサポートすることができる。それゆえ、影響（リスク）も大きくなっている。従来のAIガバナンスは、特定のビジネスユースケースに対する特定のAIシステムの評価に焦点を当てることが多かった。しかし、今日の汎用AIシステムは、何百もの異なるタスクをサポートでき、新しいタスクが日々生まれている。そのため、ガバナンスはより機敏で、多層的、かつダイナミックなものにならなければならない。
システムレベルのセーフガードとはどのようなものか
セーフガードをシステムに組み込むというアイデアは抽象的に聞こえるかもしれないが、実際には、責任あるAIのガイダンスやコントロールをユーザーエクスペリエンスに直接構築することを意味することが多い。ポリシーや手動のレビューだけに依存するのではなく、システム自体がガバナンスの一部となるのだ。
一例として、ユーザーがよりリスクの高い活動に移行していることを検知する汎用AIシステムが挙げられる。ユーザーが「これらの候補者の中から誰を採用すべきか決定するのを手伝ってほしい」と頼んだ場合、システムは「本当にAIにその作業をさせたいですか？ これは高リスクな活動です」と返すことができる。また、ユーザーに注意すべき点を伝えたり、その状況に適切に対応するために特化した別のシステムを提案したりすることもできる。
このような介入は、インタラクションそのものの中に存在する。セーフガードは、誰かが覚えておかなければならないポリシーや、後で行われるレビューではなく、システムに直接組み込まれている。
コンテンツモデレーション（投稿監視・管理）もまた別の例だ。生成AIやエージェントシステムでは、生成されるコンテンツが不快なものや、人を動揺させるもの、あるいは単に何らかの形で不適切なものである可能性がある。コンテンツモデレーションをシステムに組み込むことで、組織は有害なインタラクションがユーザーに影響を及ぼした後に対応するのではなく、利用の段階で未然に防ぐことができる。さらに広く言えば、同様のシステムレベルのアプローチはAIの評価にも適用できる。よりリスクの高いAI機能がリリースされる前に、プラットフォームが、指示追従、ハルシネーション（事実とは異なる情報の生成）、ポリシー遵守、あるいはその他の組織特有の要件に関するテストなど、定義された一連の評価に合格することを自動的に要求する。これらの評価は、独立したガバナンスのプロセスではなく、開発ワークフローの一部となる。
プライバシー分野が示す、進むべき道
プライバシーに対する懸念が、まだ新しく、よりニッチだった時代があった。人々はポリシーや原則を持っていたが、それらの考え方が常にシステムに組み込まれているわけではなかった。
現在、多くのテクノロジー環境において、プライバシーは組み込まれている。必要な研修を受け、承認を得ない限りアクセスできないデータが存在する。アクセスしようとしても、セーフガードが「いいえ、このデータにはアクセスできません」と拒否するのだ。
原則、ポリシー、基準を取り入れ、それらをシステムに組み込むこと。これこそが、いま責任あるAIが進んでいる道である。
責任あるAIは、プライバシーの進化から多くのことを学ぶことができる。かつては、プライバシー専門の弁護士やプライバシーポリシーの責任者がいれば十分だった。今日、最も成熟した組織の多くには、プライバシーエンジニアも存在する。彼らは、事後にレビューを行うのではなく、データの最小化、アクセス制御、同意管理などを製品に直接組み込む人々だ。責任あるAIも、同様の軌道をたどっている。これらのプログラムが成熟するにつれて、次に採用すべきなのは、必ずしも新たなポリシーの専門家ではないかもしれない。製品チームやエンジニアリングチームと緊密に連携し、PDFの文書としてだけでなく、テクノロジーそのものにセーフガードを直接組み込む「責任あるAIシステムエンジニア」こそが必要になるかもしれない。
誰かが主導権を握る必要がある
企業に「チーフ・レスポンシブルAIオフィサー」がいる場合、その人物が責任を負うべきだ。しかし、すべての企業にその役割があるわけではない。もし「チーフAIオフィサー（CAIO）」がいれば、その人物が戦略とともにガバナンスも担当することになるだろう。どちらの役職も存在しない場合は、リスク、セキュリティ、プライバシー、またはその他のガバナンス機能を担うリーダーに目を向けるとよい。
重要なのは役職名ではなく、その仕事を推進するための権限、専門知識、そして説明責任を持つ人物を確実に置くことだ。企業には、テクノロジーとリスクを十分に理解し、エンジニアリング、サイエンス、法務、その他のチームと横断的に協力できるリーダーシップメンバーが必要なのだ。
この取り組みに終わりはない
テクノロジーは進化し続ける。それに伴い、テクノロジーに対する期待も進化する。
ポリシーは、人々がなすべきことを示す。
運用は、組織が一貫してそれを実行するのを助ける。
システムは、責任あるAIを大規模に機能させる。
この分野はそこへ向かっている。
