AIツールにプロンプトを入力するたびに、私はAIを信頼してよいのかと考える。AIとのチャットが非公開に見えるからといって、実際にそうであるとは限らない。大規模言語モデル（LLM）に入力されたすべてのプロンプトは、ChatGPTやGeminiのようなAIモデルの訓練に使われ、ベンダーのサーバーに保存される可能性がある。そこでは、人間の評価者の目に触れることもある。
記者である私にとって、プライバシー上の懸念は大きい。AIとの「非公開」チャットが第三者に流出した事例は複数ある。例えば2025年には、あるセキュリティ研究者が、Claude、Copilot、ChatGPTなどのツールとの会話14万3000件以上がインターネット・アーカイブ（Archive.org）で閲覧可能になっているのを発見した。さらに最近では、BBCが2026年7月、Claudeとのユーザー会話数百件が公開インターネット上に露出し、そのチャットへのリンクがGoogleで容易に見つかる状態だったと報じた。
一連の流出劇はいずれも、データの安全性をAIに委ねるべきではないことを物語っている。いくらプライバシー設定でデータを保護しようとも、ブラックボックス化したAIの開発企業が情報を流出させずに管理し切れる保証は、結局のところどこにもない。もちろん、情報漏洩のリスクを完全にゼロにすることは不可能だが、AIツールを利用する際にオンライン上のプライバシーを守るためにできる対策はいくつかある。
AIを使うとあなたのデータに何が起きるのか
AIツールは、さまざまな情報源からデータを集める。OpenAIによれば、同社の基盤モデルは、インターネット上の情報、第三者から収集したデータ、ユーザー・人間のトレーナー・研究者が提供または生成した情報を組み合わせて開発されている。
ChatGPTやGeminiのようなツールとの会話は、プライバシー設定でオプトアウトしない限り、潜在的にはすべて処理され、ベンダーのAIモデルの訓練に使われる。設定次第では、文書、画像、ファイル、テキストなどのコンテンツもAIモデルの訓練に使われる可能性がある。
このデータが保存される期間はベンダーによって異なる。OpenAIの標準的なデータ保持ポリシーでは、削除された会話や一時チャットは30日以内にシステムから自動的に削除されるが、ユーザーがオプトインしている場合は、より長期間保持される可能性がある。
注目すべき点として、OpenAIは『ニューヨーク・タイムズ』との訴訟への対応として、2025年4月から9月にかけて一部のユーザーデータを一時的に無期限で保持していた（これは2025年10月の更新で撤回された）。同様に、Anthropicもチャットは30日以内にストレージから削除されるとしているが、オプトインしたユーザーのデータは匿名化された形式で最大5年間保持される。
