こうした企業リスクは大手テクノロジー企業だけのものではありません。世界中で新型コロナウイルス禍の影響を受けた分野の一つに教育があります。対面や集団での授業が困難になりオンラインでの授業が代替手段となりましたが、デジタル技術を使った教育テック（エドテック）企業への期待も大いに高まりました。
しかし米民主党の代表的進歩政治家であるエリザベス・ウォーレン上院議員らは2021年10月、米国のエドテック企業4社に、AIによる差別に懸念を表明する書簡を送付しています。その書簡では、近年の遠隔教育の拡大に伴い学生のオンライン活動に対するモニタリングシステムの使用が増加し、学生の監視プログラムが意図しない有害な結果をもたらすことが多くの研究で明らかになっていると強調されています。
さらにその書簡によると、使われている言語処理のアルゴリズムが有色人種、特にアフリカ系アメリカ人の方言を分析することにあまり成功しておらず、学生監視のプラットフォームが人種差別的バイアスを永続させる懸念があるとしています。
AIのリスクが企業リスクにもなりうる状況がこうした新興のテクノロジー企業にも起こりつつあります。これを対岸の火事として座視しているのは、潜在的な企業リスクを見過ごしているのと等しい態度といえます。積極的に動かなければならない時期が、まさにそこまで来ているのです。
実際、顔認識AIや行動予測AIに関していえば、欧州議会が2021年10月6日に、法執行機関による顔認証技術の使用や行動データに基づく犯罪予測と取り締まりを禁止するよう求める決議を採択したと発表しています。法執行機関だけでなく公共性の高い施設やサービスなどでも同様の技術の規制につながりうる状況といえます。
ESG経営の加速にも責任あるAIが必要
すでに国内各社でも多くのAI関連プロジェクトが進められていると思います。こうしたAIプロジェクトにリスクが存在しないか、AIの生み出すリスクが企業リスクにならないかを、今一度点検する必要があります。ここで重要になるのが、「責任あるAI」です。前回、アクセンチュアでは「責任あるAI」を実践するにあたって5つの行動原則（TRUST）を定義しているとご紹介しました。特に近年ではESG（環境・社会・企業統治）の観点がますます重視されており、「責任あるAI」はAIによる企業リスクを判断する上でのフレームワークとなります。つまり、ESG経営の加速には「責任あるAI」が重要な役割を担うことになります。前述のエドテックの例は社会に影響を与える事例といえるでしょう。
◎ ｢責任あるAI」を実践できていないと、企業ブランドの毀損や消費者の離反につながりかねない。
⇒ 長期的な競争力とビジネスレジリエンスを確保するためには、ステークホルダーの興味・関心をAIを活用した中核ビジネスにも反映させる必要がある
出典：アクセンチュア
