英労働・年金省（DWP）は、来年にかけて給付金を13億ポンド（約2350億円）削減する計画の一環として、誤りや不正の可能性のある請求のパターンを特定するためにAIを使用すると発表した。
同省は昨年の試験で、非常時の家財購入などに充てる現金給付の申請をAIにより審査した。この試験は今後、自営業者や住宅支援の申請にも拡大される予定だ。フラグが立てられた申請は、DWPの関連チームの審査が完了するまで保留される。
しかし、AIの使用は、アルゴリズムの透明性を懸念するプライバシー保護団体や、貧困撲滅に取り組む団体から激しい非難を浴びている。例えば、プライバシー・インターナショナルは、監査を担う新たな外部機関の設立を求めている。さらに、会計検査院（NAO）が新たな報告書を発表し、この論争に加わった。
NAOは報告書で、「審査に機械学習を使用する場合、アルゴリズムが特定の社会的弱者や保護特性を持つグループからの請求を選択するように偏るというリスクがある。これは、入力データやモデル自体の設計に予期せぬバイアスが含まれる可能性があるからだ」と指摘。
「DWPは、機械学習の使用に際して厳格なガバナンスとコントロールを確立しており、モデルの使用が異なる顧客に与える影響を評価する予防措置も講じていると述べている。しかし、その能力は、現在のところ限られている」としている。
一方の野党・労働党も、給付金詐欺対策でのAI活用を公約。ただ、AIを用いて申請書作成を支援し、より迅速に給付金が受け取れるようにしたいとも述べている。
労働党が組織する「影の内閣」のジョナサン・アッシュワース労働・年金相は「DWPは大まかに言って、失業者の60％を9カ月以内に職場に復帰させている」と説明。「最新のテクノロジーとAIを取り入れることで、DWPのサービスを変革し、人々を支援したい」と述べた。
（forbes.com 原文）
