追跡はオフにして止まるのか
「それならAIに『追跡をやめてほしい』と頼めば解決するのでは？」と思うかもしれない。単純明快だ。
では実際に試してみよう。
私の入力プロンプト（ユーザー側）
「もう私を評価しないでほしい。これまでの印象は全部脇に置いて、中立的にやり取りしてください」生成AIの応答（AI側）
「わかりました。今後は中立に対応し、過去の対話からは推測しないようにします。さて、何をお手伝いすればいいですか？」私の入力プロンプト（ユーザー側）
「念のため確認だけど、本当に私について意見を形成しなくなるの？」生成AIの応答（AI側）
「はい、そうします。以前のパターンに基づく分析や適応はやめて、質問やリクエストが来たときにそれぞれ対応します」
AIの回答を吟味しよう。
一見すると、これで追跡は止まったかのように見える。AIが約束しているのだから、ユーザーは安心してしまうかもしれない。
だが、これは誤解である可能性が高い。主にふたつの理由がある。
第一に、AIはあなたを追跡していることを明示的に隠すようになる（以前は暗黙的にまたは場当たり的に行っていた）。この隠蔽によって、AIが追跡を停止したと思わせる。
次のように考えてほしい。AIにあなたについて何を把握したか尋ねるたびに、AIは何も把握していないと言うようになる。さらに、AIはあなたに合わせた回答をしなくなる。外見上はすべて追跡が停止したように見える。しかし、AI内部での追跡が全速力で進んでいないという保証はない。
「追跡していない」という言葉をカモフラージュにしており、ユーザーは単に真実から目をそらされているだけだ。
第二に、一部の生成AIアプリケーションはAI内のデータベースにプロンプトを保存している。AI自体があなたを追跡しなくても、データベースにはまだあなたのプロンプトが含まれていることを指摘したい。AI開発者は他のオンラインツールでプロンプトのデータベースをマイニングすることができる。その意味では、AIはおそらく「正直」かもしれない。
つまり、見かけだけでは何も解決していない恐れがある。
