起業家

2023.01.18 18:00

「AIの暴走」抑止で起業 ハーバード卒日本人が米国で得た確信

Robust Intelligence創業者の大柴行人(撮影=藤井さおり)

「AIに仕事を奪われる」。そんな不安を抱いたことがある人は、多いのではないだろうか。画像生成や自動運転技術などAIの活用の範囲は広がる一方だが、「仕事を奪われる」よりも前に懸念すべきことがある。それが「AIの暴走」だ。

一例が米国の不動産検索サイト「Zillow」。同サイトがコロナ前から使用していた住宅価格を予測するAIモデルが、コロナ以後の需要の変化を見誤り、適正価格より大幅に低い価格で物件を販売してしまったのだ。運営するZillow社は、2021年第3四半期に330億円の損失を計上、従業員の25%を解雇した。

2016年には、マイクロソフトがツイッター上に、雑談を学習してユーザーと会話するAIチャットボットをリリースしたが、悪質なユーザーに不適切な言葉を吹き込まれ、差別的なツイートを投稿し、わずか1日で閉鎖となった。

こうした「AIの暴走」の抑止に挑んでいるのが「Robust Intelligence(ロバスト・インテリジェンス)」だ。同社は、2019年の創業。約10年間ハーバード大学で機械学習の限界を研究していたヤロン・シンガー氏と、その研究室生だった現在27歳の大柴行人(おおしば・こうじん)が、研究成果をベースに事業を起こした。

AI開発時に数百種類のテストを行い、コロナのような想定外の事態が起きても精度が落ちないか、人種や性別による差別的な結果を招かないかなどを検査するサービスを手がけている。日本企業では東京海上日動、楽天、セブン銀行、米国ではペイパルやエクスペディア、さらには国防省も導入している。

また、米国有力VCのセコイア・キャピタルやタイガー・グローバルから約60億円を調達するなど、投資家からの注目も集まっている。
同社の創業者である大柴に、今後の事業の可能性などについて聞いた。


日本でも注目され始めた「AI倫理」

──AIの暴走はいつ頃から議論され始めたのでしょうか?

アメリカでは2011年頃だと思います。ハーバード大学にシンシア・ドワークという、コンピューターサイエンスを専門とする研究者がいて、彼女が当時「アルゴリズムの公平性」に関する有名な論文を執筆し、議論を起こしました。公平性の問題は例えば、ヨーロッパ系とアフリカ系の名前でネット検索すると、アフリカ系の方が悪い印象の広告が表示されたというケースがありました。

また、うちの社員の1人であるブレイン・ネルソンは、グーグルのエンジニア時代の2012年に、「AIは攻撃によって崩壊する脆弱性をはらんでいる」という内容の論文を発表しています。

その後2018年頃から、AIの活用などが進んでいくと同時に、危険性も認知され始め、法整備も進みました。すでにEUやEEOC(米国雇用機会均等委員会)、ニューヨーク州で、AIによる差別や暴走に対する罰金刑など法令規制が施行されています。今年10月にはホワイトハウスがAI開発での5原則を発表しました。
次ページ > ソフトバンクやパナソニックなどもポリシーを発表

文=露原直人 撮影=藤井さおり

ForbesBrandVoice

人気記事