AIシステムは、その構築基盤となるデータと同じレベルの公平性と安全性しか持ち得ません。AIの倫理に関する議論は、モデルアーキテクチャやアルゴリズムの透明性、導入後の監視に焦点が当たることが多いですが、公平性と信頼性はそれよりもずっと早い段階—データ収集、ラベリング、前処理の段階—で確立されるのです。
AI開発チームが意図的かつ慎重にトレーニングデータセットを設計することで、バイアスの軽減、リスクの緩和、モデルの信頼性向上を積極的に実現できます。以下では、フォーブス・テクノロジー・カウンシルのメンバーたちが、実証済みのデータ設計戦略を共有し、これらの手法がいかにして企業やユーザーが信頼できる、より安全で公平なAIシステムの構築に役立つかを説明します。
1. トレーニングデータの「もしも」バージョンを使用する
AIの公平性を向上させる簡単な方法は、「もしも」バージョンのトレーニングデータを使用することです。これは、事実に関する情報はすべて同じままで、名前や性別などのアイデンティティ関連の詳細だけを変更したものです。これらの変更によってAIが異なる判断をした場合、トレーニング中にそれにペナルティを与えます。これにより、AIが関連情報に集中し、不公平なバイアスを無視するようになり、より安全で公平なシステムになります。- ニシット・メータ氏、JPモルガン・チェース
2. トレーニングの「誰が」「何を」「どのように」について透明性を持つ
AI実務者は、誰が関与しているか、どのデータがトレーニングに使用されているか、そしてそれがアルゴリズムの推奨にどのような影響を与えるかについて透明性を持つべきです。チームはAI Fairness 360（AIF360）などのツールを使用して、モデルのバイアスを検出し軽減すべきです。例えば、ヘルスケア利用スコアリングでは、公平性（AIF360で測定）により、優先的なケア管理と推奨事項の透明性が確保されます。- ジャヤシュリー・アルンクマール氏、 ウィプロ
3. 多様でバランスの取れたデータを収集する
多様でバランスの取れたデータ収集を確保することは、具体的な方法の一つです。AIの不正検出モデルが一つの地域や人口統計からのトランザクションデータのみを取り込む場合、他の場所でのアクティビティを過剰にフラグ付けしたり、検出漏れを起こしたりする可能性があります。人口全体から代表的なサンプルを意図的に収集することで、モデルはバイアスを軽減し、公平性（平等な扱い）と安全性（有害なエラーの減少）の両方を向上させます。- マイケル・ロイトマン氏、 エンピリカル・セキュリティ
4. 過小評価されているグループが確実に含まれるようにする
多様で意図的なデータ収集—様々な人口統計、コンテキスト、エッジケースを捉えること—は、AIがバイアスのある仮定を避け、より公平に機能するのに役立ちます。思慮深いデータ設計により、過小評価されているグループが確実に含まれ、公平性が向上します。安全性が重要な領域では、有害なエラーも減少し、AI決定への信頼も強化されます。- モヒット・グプタ氏、 ダムコ・ソリューションズ
5. 機密性の高いまたは有害なトレーニングデータをフィルタリングする
機密性の高いまたは有害なトレーニングコンテンツをフィルタリングするなどの思慮深いデータ設計により、AIシステムの知性を損なうことなく、より安全にすることができます。例えば、モデルトレーニングからバイオリスク関連データを除去することで、オープンソースのPythiaモデルの安全性が向上し、一般的なパフォーマンスは維持されました。これにより悪用を防ぎ、より責任あるAIの行動が確保されます。- ムルタザ・アミラリ氏、 データピラー
6. バイアスを意識した前処理を適用する
AIの公平性と安全性は導入時に達成されるものではなく、上流工程で設計されるものです。最も強力なレバレッジはバイアスを意識した前処理です。公平性のためにデータをストレステストし、機密特性がどのように結果を変えるかをシミュレーションし、エラー率が収束するまで重み付けや強化を行います。これにより前処理は単なる雑務から公平性のチェックポイントへと昇格し、モデルがトレーニングされる前に害を防ぎ、信頼性を確保します。- ハルシダ・アチャリヤ氏、 フルフィルメントIQ
7. ガードレールを設定するためのデータの正規化とラベリング
データが発見され、正規化され、ラベル付けされることを確保することは非常に重要です。これによりデータを適切に分類でき、AIシステムのガードレールとアクセス制御が確立され、人間とAI自体の両方による機密データへの不正アクセスから保護されます。これはAIシステムを導入する前に、まずAIを活用して組織のデータを整理し準備することで最もよく達成されます。- ジェシー・トッド氏、 エンコンパース
8. 「公平性トリップワイヤー」データセットを構築する
私たちは「公平性トリップワイヤー」データセットを構築しています：性別や人種のみが異なる同じプロフィールは、同じ回答を得なければなりません。これらのペアにラベルを付け、パリティギャップが目標を満たすまでリリースを制限します。このデータ設計戦略により、顧客が害を被る前に、より安全で公平な行動を強制します。- マルガリータ・シモノワ氏、 ILoveMyQA
9. トレーサビリティのためのオントロジーとナレッジグラフを使用する
オントロジーを実装することで、AIはより効率的で正確になり、幻覚が少なくなり、トレーサビリティが確保されます。オントロジーとナレッジグラフがなければ、AIは適切に「公平」である能力を欠き、確かにトレーサビリティがなければ「安全性」を作り出す方法はありません。- ロブ・バラー氏、 サイバーヒル・パートナーズ
10. エッジケースのオーバーサンプリングを行う
エッジケース全体でサンプリングを層別化します。大規模なデータセットをランダムに収集する代わりに、過小評価されているシナリオ—珍しい医療状態、標準的でないユーザー行動、少数派の人口統計など—を意図的にオーバーサンプリングします。これにより、AIシステムが脆弱なグループに害を与える可能性のある「多数決」の決定にデフォルトすることを防ぎます。小規模でも意図的なデータセットは、大規模でバイアスのあるデータセットよりも優れたパフォーマンスを発揮することがよくあります。- ジテンダー・ジャイン氏
11. リアルタイム入力が正確で代表的であることを確保する
AIがリアルタイムデータを消費する場合、欠陥のある入力はバイアスとエラーを瞬時に広げ、砂利が歯車を詰まらせるように進行を止めてしまいます。思慮深い収集、ラベリング、処理により、AIシステムに供給される情報の入力が正確で真に代表的であることを確保します。ノイズをフィルタリングし、異常にフラグを立て、ガバナンスを促進することで、出力が公平で安全であり、ビジネス目標に沿ったものになります。- ビル・ロコス氏、 パーセック・オートメーション
12. 前処理中に曖昧さとギャップにフラグを立てる
思慮深い前処理とは、どのデータが現実を真に反映しているか、そしてどこに不確実性が残っているかを明確にすることです。仮定を強制するのではなく、ギャップや曖昧なケースにフラグを立てることで、チームは隠れたバイアスを減らし、AIシステムをより安全で透明なものにします。- ベンジャミン・フォルラーニ氏、 デダル・インテリジェンス
13. 機密フィールドを匿名化する
機密フィールドを匿名化しながら有用性を保持するなどの思慮深い前処理は、AIの公平性と安全性を向上させます。これによりプライバシーが保護され、コンプライアンスリスクが軽減され、隠れたバイアスがモデルに漏れることを防ぎます。結果として、パフォーマンスを犠牲にすることなく、より公平な決定を下す責任ある信頼できるシステムが生まれます。- アラヴィンド・ヌタラパティ氏、 マイクロソフト
14. 外れ値と歪みを分析する
鍵となるのは、外れ値と歪みを効果的に分析することです。これらはAIシステムにとって例外としてフラグを立てる必要がある重要な要素です。歪み要因はモデルバイアスと出力における深刻なリスクを引き起こす傾向があります。あらゆる種類のバイアス要因をプロファイリング、カタログ化、報告するための効果的なデータガバナンスが必要です。- サナス・チラカラ氏、 NTTデータ
15. アノテーターの作業を追跡し評価する
強力な解決策の一つは、アノテーター評価と測定のレイヤーを導入することです。ラベリング中に、誰がどのような文脈で各アイテムにラベルを付けたかを記録します。キャリブレーション方法を使用して、各アノテーターの一貫性とバイアスを評価します。これにより、個々のラベルの影響を調整し、データセットを強化してモデルの公平性を向上させることができます。また、専門家によるレビューが必要なエッジケースにフラグを立てるのにも役立ちます。- アンシュマン・ルドラ氏、 タップクリックス
16. 明確に定義されたデータポリシーを確立する
公平性と安全性は、透明性と説明可能性がある場合にのみ存在します。倫理的なデータ収集は、明確に定義されたデータポリシーから始まります。そこから、データ収集、正規化、バイアス検出などの戦術的ステップを決定できます。また、従業員にデータライフサイクルについて教育することもできます。ポリシーがあれば、倫理的であり続けながら、スマートで積極的なステップを正当化できます。- ジェームズ・スタンガー氏、 CompTIA
17. データセットに何が含まれていないかを知る
思慮深いデータ設計は、データセットに何が含まれていないかを知ることから始まります。AI駆動の労働力分析では、個人を特定できる情報を取り除き、活動データを正規化することでバイアスを回避するのに役立ちます。これにより、AIの洞察が人口統計ではなく、作業パターンとトレンドに焦点を当てることが確保され、特定のグループを不利にする可能性のある決定から保護します。- ハイディ・ファリス氏、 アクティブトラック
18. アノテーターの不一致を保存する
アノテーターの不一致を価値あるビジネスインテリジェンスとして保存します。人間のラベラーがエッジケースで意見が分かれる場合、それはAIがユーザーに対して不公平に失敗する可能性がある正確な場所を示しています。コンセンサスを強制するのではなく、この不確実性をトレーニングデータに組み込み、早期警告システムとして活用します。これにより、AIは自身が不確かな場合を認識し、自信はあるが偏った決定を下すことを避ける能力を得ます。- ジョセフ・アワーズ氏、 セントリック・コンサルティング
