Close RECOMMEND

I cover the control of content on the internet.

Photo by Chesnot/Getty Images

フェイスブックがAI(人工知能)を活用した、ヘイトスピーチを拡散する「ミーム(Meme)」の追放に乗り出した。同社はヘイトとみなされるミームの1万件のデータセットを構築し、このデータを用いてミーム内のヘイトスピーチを検出するアルゴリズムを作成した開発者に総額10万ドルの懸賞金を授与しようとしている。

ミームはもともと、社会科学分野の用語だったが、最近ではSNSで投稿される文字を入れた画像やGIFアニメがミームと呼ばれるようになった。近年のミームの代表的な事例にあげられるのが、オルタナ右翼や白人至上主義者たちが用いる「OK」のハンドサインだ。

親指と人差し指で輪を作るサインは、本来はOKの意味しか持たなかったが、2017年にホワイトハウスの記者会見室でオルタナ右翼の著名人がOKハンドサインとともに写真に写ったことを契機に、ヘイトのシンボルとして用いられるようになった。

ヘイトを発見する上で課題となるのは、ミームが多くの場合マルチモーダルと呼ばれる複数のコンテンツの組み合わせとなっている点だ。例えば、バラの写真の上に「今日の香りが大好きだ」というテキストを掲載するのと、スカンクの写真の上に同じ文言を載せるのとでは、意味合いが異なってくる。

有害なミームの検出を自動化するためには、アルゴリズムにその構造を理解させ、コンテンツの組み合わせを分類するツールを生み出す必要がある。現状で最も優れたディープラーニングモデルが、ミームのヘイトの発見に成功する確率は64.7%だという。これに対し、人力での成功率は84.7%とされている。

フェイスブックは、人種や国籍、宗教や性別、性的嗜好などの個人の特性を、直接的もしくは間接的に攻撃する行為をヘイトと定義している。同社が今回、ヘイトの事例としてまとめたデータセットには、既存のミームのほかに新たに作成されたオリジナルのものが含まれている。

チャレンジの参加者らには、今年10月までデータベースへのアクセスが許され、アルゴリズムの開発を行う。その後、12月のマシンラーニングのカンファレンスNeurIPSで開催される最終選考会に参加することになる。

優勝者には賞金5万ドルが授与される。応募要項の詳細はDriven Dataのサイト上で公開されている。

フェイスブックは近年、コンテンツ監視の自動化を進めており、2020年第1四半期に削除したヘイトスピーチ絡みのコンテンツの88.8%は、AIを用いて検出したという。

編集=上田裕資

PICK UP

あなたにおすすめ