しかし、まだ初期段階にあるこの技術は、開発プロセスがオープンとは言えない。また、既存のステレオタイプを増幅させる人種偏見が存在しているとの批判も受けている。AI技術にまつわる最大の争点ともいわれるこの問題において、IBMは透明性と公平性をもたらそうと努力している。
人々が知るべき詳細とは
AIの中に人種偏見はさまざまな形で持ち込まれるが、主に、AIのトレーニングに使われるデータのアルゴリズムが多様性に欠けるということに反映されている。そこでIBMの研究者たちは、AIの機械学習システムのトレーニングに使用するデータセットのバイアスを改善しようとしている。
もしAIのデータが原因で、求職者が不採用になったり、ローンの申し込みを断わられたり、刑務所に送られるかどうかが決まったりすることになったら、人種偏見は大きな問題になる。
IBMでは現在、AIプラットフォームの相対的な公平性をランク付けし、意思決定がどう行われているかを説明する評価システムを開発している。また、AI開発者たちが特性的に同質だという現状を打破する手段として、オープンソース・コミュニティーが容易にアクセスできる新しいツールキット「AI Fairness 360」を提供する予定だ。
IBMは声明の中で、以下のように述べている。
「このソフトウェアサービスは完全に自動化されており、実行時、つまり意思決定が行われるタイミングで意思決定の説明とAIモデル内のバイアス検出を行い、潜在的に不公平な結果が起こり得ることを捕捉します。検出したバイアスを軽減できるように、モデルに追加すべきデータを自動的に提案するのも重要な点です」
黒人のビジネスリーダー向けのメディア「CultureBanx」は以前、AIプラットフォームが銀行融資の意思決定を行うようになれば、黒人世帯の資産がさらに減少する恐れがあると報じていた。
また、オンライン不動産データベースを運営する米国企業ジロウ（Zillow）のレポートによれば、2016年に住宅ローンを断わられた人の割合は、黒人が20.9％、ヒスパニックが15.5％。これに対し、白人は8.1％、アジア系は10.4％だった。この差は決して小さくない。なぜなら、家を所有することは、人種を問わずほとんどの人にとって、資産の積み上げに役立つからだ。
AI市場の配慮
調査会社IDCは最新のレポートで、コグニティブ・コンピューティング・システム（人間のように自ら理解・推論・学習するシステム）とAIシステムへの支出は2022年、全世界で776億ドルに達すると予測した。もしこうした予測が的中すれば、IBMは莫大な利益を得ることになるだろう。
現在、IBMがAI分野で成功を収めているのは、同社の「Watson（ワトソン）」技術が、世界で初めて市場に投入されたAIプラットフォームだったことが大きい。WatsonはIBMコグニティブ・ソリューション・グループの一部だが、同グループは直近の5四半期に関して、年平均成長率1.4％を達成している。
しかし、解決の難しい問題がある。AIの品質は、AIに供給されるデータによって決まるため、データにバイアスが存在していれば、AIはそれを反映した意思決定を行うという問題だ。IBMの新しいアプローチは、「AIがもつバイアス」という問題により適切に取り組むための、新しい理解のレイヤーを加える可能性がある。
それでも、まだわからないことは残る。いわゆる「公平なアルゴリズム」がどれくらい公平かを判断するのは、いったい誰なのだろう？
