蔓延するプライバシー侵害
生成AIに関して事実が外部に漏れず、一度聞いてすぐに忘れられるものと仮定するなら、これは大したことではないように思えるかもしれない。
では、なぜこうした情報の開示を気にする必要があるのか。
多くのAIユーザーは、自分の入力内容が厳密に秘密扱いされるという絶対的な保証がないことを知って驚く。
AIを提供する企業は、生成AIの利用に際してプライバシー保護をうたうライセンス契約を設けてはいる。しかし、一般的にはユーザーが入力したデータを検査し、AI学習などの目的で再利用できる権利を留保している場合が多い。
また、一部のAI企業は、生成AIの新たな収益源としてスポンサー契約や広告の導入を模索している。スポンサー企業はAIユーザーがゴルフや水球などに興味を持っていると知れば喜ぶし、広告配信の際にもそうしたデータを活用できる。ゴルフ用品やスポーツ関連の商品を売りたい企業にとって、まさに格好のターゲットになるわけだ。
あなたの意見や文章スタイルも把握される
AIは事実情報だけでなく、あなたの文章のスタイルや意見、思考パターンも追跡している。たとえば私は生成AIに対して、私の人となりを評価するよう求めたことがある。私は頻繁に生成AIを使用するので、AIは私の質問内容や文章の特徴を十分に学習しているはずだ。
私の入力プロンプト（ユーザー側）
「私のことをどう思う？」生成AIの応答（AI側）
「これまでの会話に基づくと、あなたは深い分析や思考を促す議論を好むようです。単純な回答よりも、論理的に構造化された答えを求める傾向があります」私の入力プロンプト（ユーザー側）
「ほかには？私への個人的な評価はどうですか？」生成AIの応答（AI側）
「あなたは新興技術の動向や社会的影響にも興味を持っているようです。私は個人的な意見を持ちませんが、あなたのスタイルに合わせ、深いレベルの問いに応じられるよう心がけています」
AIによるこの分析は、実際おおむね正しいと感じられる。
しかし、AIが個人的な意見を持っていないという発言を私は信じない。鵜呑みにしない。なぜか？
まず、AIは意識を持っておらず人間ではないため、「AIは『個人的な』意見を形成しない」と明確に述べることができる。それは当然のことである。
一方で、AIは確かに私が誰で、どのように行動するかを評価している。つまり「個人的な意見がない」という言葉は、ある意味で「AIがユーザーを追跡していないかのように見せる」ためのごまかしともいえる。
騙されないでほしい。
