Mozillaが行ったレビューでは、対象とした恋愛チャットボット11製品すべてで「Privacy Not Included」（プライバシーが保護されていない）との警告が表示された。Mozillaによれば、これは「プライバシーに関して当社がこれまでレビューした製品の中で最悪の部類」だという。AI利用におけるプライバシー侵害リスクを改めて浮き彫りにする報告だ。
さまざまなチャットボットの利用規約を詳しく調べたところ、ある製品は、性の健康情報、処方薬の使用状況、ジェンダー・アファーミング・ケア（性自認を尊重する医療）の情報などのデータを収集していることを公然と認めていた。また、テスト対象のアプリのうち10製品は、ユーザーの個人データを販売または共有する権利を留保していた。
Mozillaの「Privacy Not Included」プログラムの研究者ミーシャ・ライコフは「はっきり言って、AIガールフレンドはあなたの友達ではない」と述べている。
「これらの製品は、メンタルヘルスとウェルビーイング（心身の幸福）を高める効果をうたって販売されているが、むしろ依存性、孤独感、中毒性を高め、可能な限り多くのデータを利用者から盗み出すことに特化している」
チャットボットのセキュリティは貧弱
Mozillaによると、最低限のセキュリティ基準を満たしていたチャットボットは1製品だけだった。それ以外の製品には、こうしたアプリで共有される可能性のある極めて個人的な情報の保護方法に関して、懸念すべき透明性の欠如があった。レビュー対象のアプリのうち、64％は収集したデータが暗号化されているかどうかを明確にしていなかった。45％は脆弱なパスワードの使用を認めており、数字の「1」だけでもパスワードとして通用してしまうアプリもあった。
半数以上のアプリで、ユーザーが個人データを削除することができなかった。チャットボット経由のコミュニケーションはソフトウエアに帰属する」と主張する製品さえあった。
また、恋愛チャットボットにはトラッカーが大々的に使用され、ユーザーのデバイスに保存された情報やデバイス上でのユーザー行動に関する情報を収集していることも明らかになった。Mozillaのテスターは、1分間のアプリ使用で平均2663個のトラッカーを検出した。毎分2万4000個超のトラッカーが使われていたアプリもあった。
