新型コロナウィルスが猛威を振るうなか、英国（イングランド、ウェールズ、北アイルランド）では「Aレベル試験」という大学入学資格試験が中止になった。代わりに行われることになったのが、AIアルゴリズムを用いた成績判定だ。対象となったのは、Aレベル試験を受けることができなかった、約30万名の高校卒業クラスの学生たちである。
アルゴリズムは、学生たちの前年度の成績パターンと教師が予測した成績、また教師が採点した学生同士の順位などをベースに、最終的な成績を付与した。その際、学生たちが所属する学校の歴代学業実績も判定のためのデータとしたのだが、これが問題を生む原因となった。結果として、判定が私立学校に通う富裕層の学生たちに有利に働き、公立学校に通う学生たちの成績が教師の予想のそれよりもかなり低く見積もられるという事態が発生してしまったのだ。イングランド地域では、アルゴリズムが裁定した成績の40％が、教師たちの予想した成績より低かったという。
成績が発表された翌日から、学生たちは政府に対し抗議活動を展開。メディアが一斉にその不公平性を報じだすと、ギャビン・ウィリアムソン教育相が「AIがつけた点数の代わりに、教師が予測した成績を得ることができる」と“救済策”を打ち出した。AIが採点した判定を参照せず、改めて入試を行うとする大学も現れているという。
多くのメディアがさまざまな形で問題を報じた。（画像The Guardianより）
若者の将来の伸びしろや可能性を正確に判断することは、すべての人間にできることでは決してない。だからと言って、可視化されたデータや効率性だけを重要視したり、責任の所在をうやむやにするため、ジャッジをすべてAIにまかせてしまうという選択は絶対に避けるべきだ。面倒かつ非効率であっても、人間の直感や経験で判断したことの方が世の中を前進させることがあるという前提は、こと対人間に関しては失ってはならない。
英国の学生たちの抗議により、今回の人工知能の過ちは是正されることになった。しかし仮に誰も声を挙げず、採点がそのまま受け入れられたとしたらどうか。機械に判定されることが「ノーマル」となる生きにくい社会の到来が早まっていたかもしれない。AIテクノロジーが発展を遂げるなか、日本社会もこの種の議論と無関係でいられない日がきっとやってくる
AI時代にあっては今後、「AIを使うこと」のすばらしさと同時に、「AIを使わないこと」の正しさも追及されるべきだ。
連載：AI通信「こんなとこにも人工知能」
過去記事はこちら>>
