サービスの安全性は企業名より管理機能で見極める
AIへ入力する情報を管理し、用意された保護機能を使えば、プライバシーに配慮しながら利用者に合った回答を得られる。しかし、リスクがゼロであると保証できる事業者はいない。メモリー機能を不正に操作する攻撃が実証され、ソフトウェアの不具合によって利用者の情報が流出した例もある。規制当局は、AI事業者によるチャットデータの扱いを調べている。
advertisement
スタンフォード大学の研究チームが、アマゾン、アンソロピック、グーグル、メタ、マイクロソフト、OpenAIのプライバシーポリシーを比較したところ、6社とも初期設定でチャットをモデル学習に利用していた。学習への利用を拒否できるか、データをどれだけ保持するか、人間が内容を確認するか、子どもの情報をどう扱うかについては違いがあった。
選ぶ前に確認したい、データの扱いに関する3つの質問
AIサービスを評価する際、スタンフォード大学の研究者は3点を確認している。入力した情報はモデル学習に使われるか。どの個人データが収集・保存されるか。収集や学習への利用を許可・拒否できるか。
事業者の知名度より、利用者が実際に操作できる管理機能が重要だ。学習への利用を拒否できるか、特定の会話でメモリーを使わずに済むか、記憶内容を閲覧・削除できるか、保存期間が分かるかを確認したい。
advertisement
規制当局も個人データの取り扱いに注目している。米連邦取引委員会（FTC）は2025年、利用者の話し相手になるチャットボットを運営する7社に情報提供を命じ、会話から得た個人情報の利用・共有方法などを説明するよう求めた。欧州では、欧州データ保護会議（EDPB）が2024年、AIモデルの開発・運用で「正当な利益」を個人データ処理の法的根拠とするには、厳格な必要性の検討と、個人の権利との均衡が欠かせないと表明している。
