ミームはもともと、社会科学分野の用語だったが、最近ではSNSで投稿される文字を入れた画像やGIFアニメがミームと呼ばれるようになった。近年のミームの代表的な事例にあげられるのが、オルタナ右翼や白人至上主義者たちが用いる「OK」のハンドサインだ。
親指と人差し指で輪を作るサインは、本来はOKの意味しか持たなかったが、2017年にホワイトハウスの記者会見室でオルタナ右翼の著名人がOKハンドサインとともに写真に写ったことを契機に、ヘイトのシンボルとして用いられるようになった。
ヘイトを発見する上で課題となるのは、ミームが多くの場合マルチモーダルと呼ばれる複数のコンテンツの組み合わせとなっている点だ。例えば、バラの写真の上に「今日の香りが大好きだ」というテキストを掲載するのと、スカンクの写真の上に同じ文言を載せるのとでは、意味合いが異なってくる。
有害なミームの検出を自動化するためには、アルゴリズムにその構造を理解させ、コンテンツの組み合わせを分類するツールを生み出す必要がある。現状で最も優れたディープラーニングモデルが、ミームのヘイトの発見に成功する確率は64.7％だという。これに対し、人力での成功率は84.7％とされている。
フェイスブックは、人種や国籍、宗教や性別、性的嗜好などの個人の特性を、直接的もしくは間接的に攻撃する行為をヘイトと定義している。同社が今回、ヘイトの事例としてまとめたデータセットには、既存のミームのほかに新たに作成されたオリジナルのものが含まれている。
チャレンジの参加者らには、今年10月までデータベースへのアクセスが許され、アルゴリズムの開発を行う。その後、12月のマシンラーニングのカンファレンスNeurIPSで開催される最終選考会に参加することになる。
優勝者には賞金5万ドルが授与される。応募要項の詳細はDriven Dataのサイト上で公開されている。
フェイスブックは近年、コンテンツ監視の自動化を進めており、2020年第1四半期に削除したヘイトスピーチ絡みのコンテンツの88.8％は、AIを用いて検出したという。
