【重要なお知らせ:当社を装った偽サイトにご注意ください】

海外

2025.01.29 08:00

「生成AI児童ポルノ」を撲滅せよ、評価額3100億円の米新興Hive

Shutterstock.com

Shutterstock.com

ここ最近、インターネット上には人工知能(AI)で生成された児童の性的虐待画像(CSAM)が急増している。こうした中、評価額が20億ドル(約3100億円)とされるAIスタートアップ、Hive(ハイブ)のCEOを務めるケビン・グオは、同社のモデレーション(監視)サービスが、CSAM排除のための決定打になると述べている。

機械学習モデルを用いて有害コンテンツにフラグを立てるハイブのシステムは、掲示板のレディットやSNSのブルースカイなどで使用されている。同社は1月23日、英国の非営利団体であるインターネット・ウォッチ・ファンデーション(IWF)と提携し、顧客のサイトからCSAMを特定し、削除するための機能を強化すると発表した。

サンフランシスコに本社を置くハイブは今後、IWFのデータセットを定期的にAIモデルに統合するという。このデータセットは、CSAMを掲載している約8000のウェブサイトのリストや、CSAMの監視を回避するために犯罪者が使用する固有のフレーズやキーワードのリストを含むもので、ハイブの顧客は、IWFのハッシュ(数百万件に及ぶ既知の違法画像と動画のデジタル指紋)にアクセスできるようになる。

ハイブは、CSAMの検出技術を開発している米国の非営利団体Thorn(ソーン)とも2024年に提携している。同社は、今回の提携でリーチが拡大し、顧客のプラットフォームからより多くの違反コンテンツを削除することが可能になると述べている。

生成AIツールの登場によって違法画像の生成が容易になる中、IWFは、CSAMを掲載したサイトを法執行機関に報告しているが、その件数は2023年に過去最高の27万5000件を記録していた。

「かつては、CSAMはそれほど一般的ではなく、入手するのは比較的困難だった。しかし、画像や動画を生成するAIエンジンによってコンテンツは爆発的に増加している」とグオは述べている。
次ページ > 米国防総省とも契約

編集=上田裕資

タグ:

ForbesBrandVoice

人気記事