一例が米国の不動産検索サイト「Zillow」。同サイトがコロナ前から使用していた住宅価格を予測するAIモデルが、コロナ以後の需要の変化を見誤り、適正価格より大幅に低い価格で物件を販売してしまったのだ。運営するZillow社は、2021年第3四半期に330億円の損失を計上、従業員の25%を解雇した。
2016年には、マイクロソフトがツイッター上に、雑談を学習してユーザーと会話するAIチャットボットをリリースしたが、悪質なユーザーに不適切な言葉を吹き込まれ、差別的なツイートを投稿し、わずか1日で閉鎖となった。
こうした「AIの暴走」の抑止に挑んでいるのが「Robust Intelligence（ロバスト・インテリジェンス）」だ。同社は、2019年の創業。約10年間ハーバード大学で機械学習の限界を研究していたヤロン・シンガー氏と、その研究室生だった現在27歳の大柴行人（おおしば・こうじん）が、研究成果をベースに事業を起こした。
AI開発時に数百種類のテストを行い、コロナのような想定外の事態が起きても精度が落ちないか、人種や性別による差別的な結果を招かないかなどを検査するサービスを手がけている。日本企業では東京海上日動、楽天、セブン銀行、米国ではペイパルやエクスペディア、さらには国防省も導入している。
また、米国有力VCのセコイア・キャピタルやタイガー・グローバルから約60億円を調達するなど、投資家からの注目も集まっている。
同社の創業者である大柴に、今後の事業の可能性などについて聞いた。
日本でも注目され始めた「AI倫理」
──AIの暴走はいつ頃から議論され始めたのでしょうか？アメリカでは2011年頃だと思います。ハーバード大学にシンシア・ドワークという、コンピューターサイエンスを専門とする研究者がいて、彼女が当時「アルゴリズムの公平性」に関する有名な論文を執筆し、議論を起こしました。公平性の問題は例えば、ヨーロッパ系とアフリカ系の名前でネット検索すると、アフリカ系の方が悪い印象の広告が表示されたというケースがありました。
また、うちの社員の1人であるブレイン・ネルソンは、グーグルのエンジニア時代の2012年に、「AIは攻撃によって崩壊する脆弱性をはらんでいる」という内容の論文を発表しています。
その後2018年頃から、AIの活用などが進んでいくと同時に、危険性も認知され始め、法整備も進みました。すでにEUやEEOC（米国雇用機会均等委員会）、ニューヨーク州で、AIによる差別や暴走に対する罰金刑など法令規制が施行されています。今年10月にはホワイトハウスがAI開発での5原則を発表しました。
