覆面捜査官のためのAIアバターも
企業が法執行機関に武器や監視テクノロジーを売り込む大型見本市であるミリポールではこの他にも、AIに焦点を置いたデモが各社によって行われた。イスラエルのスマートフォン監視技術の大手Cellebrite（セレブライト）のエンジニア、アンディ・マーティンは、ChatGPTのような大規模言語モデル（LLM）は、警察が個人の通話記録を調べて不審な動きを察知したり、容疑者の取り調べのアシスタントに活用するなど、あらゆる法執行機関の活動に役立つと語った。advertisement
さらに、イタリアの監視テクノロジー企業Cy4gateは、生成AIを用いて覆面捜査官のためのアバターを作成する「Gens.AI」と呼ばれるツールを披露した。このツールで作成したアバターは、フェイスブックやテレグラムのようなプラットフォーム上で、自律的なAIペルソナとして公開可能という。捜査当局が容疑者についての情報を収集するために偽アカウントを使用することはあるが、それを操作するのは通常、AIではなく人間の覆面捜査官だ。
Cy4gateは、同社のアバターがターゲットに近づき、信頼関係を築く上で十分な人間らしさを備えていると主張している。Gens.AIは、30代前半の女性パーソナルトレーナーに見せかけたアバターを、2019年からフェイスブックなどのSNSで公開していた。
メタは、警察による偽アカウントの運営を禁止している。フォーブスがこのアカウントの存在をメタに教えたところ、すぐに削除された。
advertisement
ソーシャル・リンクスとCy4gateのツールを組み合わせると、あるスパイウエア会社が作った監視ソフトが、別の会社が作ったAIアバターを監視するという、非常に奇妙な「AIのエコーチェンバー」のような状況が生じることになる。一言で言えば、「監視用AIの共食い」の始まりだ。
（forbes.com 原文）
