「人間に近づけることで、信頼やエンゲージメントが醸成される可能性はあるが、他方で、不快感や誤った予測を生むリスクもある。さらには、性別に基づくステレオタイプを喚起する恐れもある」
言い換えるならこれは、冒頭で触れた「ガラスの天井」を、AIの世界にも作り出してしまう、ということだ。これは、システムに取り込まれたデータに存在するバイアスについて検証する際に専門家が話題にする、「もともと実際の人間の世界にあった既存の社会問題を、AIシステムが拡大してしまう」というテーマだ。さらに、より大きく見れば、「人間がAIに本当に求めるものは何なのか？」を問う、「アライメント（人間の倫理や意図との整合性）」という全体的な概念にもつながっていく。
インディペンデント紙の記事では、研究論文の共著者であるメアリー・ハウスフェルド博士のこんな言葉を伝えている。「職場でもAIエージェントの使用が一般的になっていくなかで、我々は、こうしたエージェントに与える特徴や、そうした選択によって後押しされる可能性のある行動について、慎重に考える必要がある。新たなテクノロジーによって生まれた状況で、既存の不平等を無意識のうちに再生産してしまう事態は避けたいところだ」
我々も、もちろんそんなことは望んでいない。だが現実を見ると、これは一筋縄ではいかない問題だ。その一端を示しているのは、オンライン掲示板「レディット」の、あるスレッドだ。ここでは、人間の男女間で賃金格差が生じる「真の理由」について、さまざまな投稿者が議論している。
「SingleMaltMouthwash」を名乗るある投稿者は、データとなる数字は実態を反映しておらず、男女間に存在する不均衡が隠されているとして、以下のように主張している。
「我々は、（中略）性別が報酬額に与える大きな影響を無視している。明白な差があるにもかかわらず、性別が報酬に与える影響が、実際よりも少ないように見せかけようとしている。言い換えるならこういうことだ。『調整後の男女の賃金格差』に触れている研究は、同じ職種に就いていて、同等の技量を持つ男性と女性の賃金の平均を計測しているが、女性がいまだにそうした職種に就けず、同等の技量を取得する機会も奪われていることが考慮されていない」
全く不明瞭な状況ではなかろうか。どうやら、AIの「男女」に関しては、さらなる研究が必要なようだ。また、AIが人間の知能を超える「シンギュラリティ」に近づくなかで、対応しなければいけない問題は山積している。今後の動向に注目していきたい。
