これは、確かに正当な懸念であり、先見性のある企業が健全な「審査プロセス」を通じて積極的に対処できるものであり、またそうするべきものです。AIを活用した製品とソリューションについて、この審査プロセスの構成上、中心となるべき4つの重要ステップを紹介します。
advertisement
1. AIに関する情報の文書化
この文書には、目的・用途、学習データセット、安全性と公正性のテスト結果、性能の特徴、使用シナリオに関する情報を記載する必要があります。近年、これは業界全体の優先事項となっており、大部分の主要企業が実行可能な文書モデルを作成・採用しています（グーグルのモデルカード、IBMのファクトシート）。
また、AIシステムの作動中は、その動作を積極的にモニタリングする必要があります。この点において、企業は、機械学習モデルの予測の理解と解釈を助けるために利用可能なさまざまなツールについて、成長する研究機関になる必要があります。
2. ホワイトペーパーの条件について、自社の解釈をまとめる
採用された規制枠組が、各条件をどう実行に移すかについて、十分に説明してくれるとは考えにくいです。実行方法はそれぞれの使用環境によって大きく異なるというのが、その主な理由です。例えば、企業に対し、潜在的な差別を防ぐだけの代表的なデータセットを使用するように法律で義務づけるとしたら、その法律に、特定のデータセットの正確な構成がどうあるべきかについては規定されていません。
advertisement
したがって、これらの条件について、部門横断的なチームが企業内の解釈をまとめる必要があります。その際には、適切な質問を投げかけます。AIを搭載した新規採用アプリであれば、「学習データセットの人口構成はシステムの勧告にどう影響しているだろうか」という質問を検討するかもしれません。
3. 内部監査体制を整える
欧州委員会の条件について企業内で定義された解釈をもとに、リスク・コンプライアンス担当者、プロダクトマネージャー、データサイエンティストで構成される部門横断的な独立したチームが、欧州委員会の条件遵守について評価する内部監査を実施する必要があります。
