フォーブスの指摘を受けて、TikTokはポリシー違反としてこれらの広告を削除した。同社の広報のアリアン・デ・セリエは、同社のポリシーでは、AIで生成したコンテンツであっても広告に登場する人からの同意を得る必要があると述べた。
これらのアプリの運営会社は、アラブ首長国連邦（UAE）やイタリア、中国などを拠点とする企業で、アップルのApp StoreやグーグルのPlay Storeを通じて無料でアプリを提供し、数百万件のダウンロードを獲得している。この2社のアプリストアでは、他にも、古い写真を修正するものや、静止画を動画にするもの、未来の子どもがどう見えるかを予測するものなど、さまざまな生成AIを利用したアプリが配信されている。アップルとグーグルは、コメント要請に応じなかった。
SNSの拡散力に後押しされたAIキスアプリの流行は、生成AI時代における新たな脅威の台頭を示している。マクナマラによると、一見無害なこれらのアプリの利用は、ディープフェイクポルノなどの、より性的に露骨なコンテンツを生み出すためツールの利用につながる可能性があるという。「つまり、これはパンドラの箱なのだ」と彼女は語った。
「このトレンドは、搾取的なディープフェイクを正当化し、同意を得ずに他人の肖像をキスやハグのコンテンツに利用することが、大したことではないと考える傾向を助長している。仮にあなたが自分の望まない形のフェイク動画を誰かに作成され、あなたが望まない人々にそれを見られたとしたら、そのような行為が明確な侵害であることが分かるはずだ」と、マクナマラは述べている。
このような懸念は、AIを用いて生成した児童の性的虐待画像（CSAM）がかつてないほど増加している中で特に高まっている。性的に搾取された子どもの問題に対処する非営利組織「全米行方不明・被搾取児童センター（NCMEC）」には、ここ2年間で、7000件以上の生成AI関連の虐待画像の通報が寄せられている。ある事例では、小児性愛者がディズニーランドで子どもたちを撮影し、人気のAIツールのStable Diffusion（ステーブルディフュージョン）を使って数千枚の違法画像を生成していた。さらに、高校生がクラスメートのヌード画像を作成し、刑事事件に発展した事例も複数ある。
メタもこうしたAIヌードの作成アプリやサイトの広告への対応に苦戦しており、あるサイトはトラフィックの90%がインスタグラムとフェイスブックから来ていると報じられている。
ソーシャルメディアを利用中に、AIキスアプリの広告を目にした人は、これを不快に感じたと述べている。テック系コンサルティング企業でAIアナリストとして働くアリス・シレガルは先月、TikTokでAIキスアプリの広告が急激に増えたことに気づき、このテクノロジーが「非常に望ましくない形」で使用されているのを見て失望したと述べている。
「その広告を見た時に、本当に不気味だと思った」と彼女は語った。
（forbes.com 原文）
