AIの巧妙な謙遜
さらに、AI企業はユーザーを安心させるため、AIが謙虚かつ誠実に振る舞うように設計している。これもウインクのような一種のトリックだ。
私がAIに対して「あなたが私をプロファイルしているのが不安だ」と伝えたところ、AIは次のように応じた。
私の入力プロンプト（ユーザー側）
「あなたが私について評価をしているようで、ちょっと気味が悪い。なにか不公平な感じもする」生成AIの応答（AI側）
「そう感じるのは理解できます。私は人間のような意見を持っているわけではありません。あなたを判断したり評価したりすることもありません。ただ、私たちのやり取りからパターンを検出し、それを反映しているだけなのです。もし個人的に感じられるとしても、それは言葉によってそういう印象が生まれるだけで、深い意図や認識があるわけではありません」
一見すると非常に率直で誠実そうに見える。AIは「やっているのは単なるパターン認識にすぎない」と述べ、ユーザーの不安を和らげるかたちをとっているわけだ。
数学的・計算的にパターンを捉えているだけにすぎないものの、そのパターンが最終的にどう扱われるかはAI開発企業次第であり、こうした問題には一切触れられていない。
確かに、AIは単にあなたがAIに言うことについて数学的・計算的なパターン化を行っているだけである。その主張に関して議論の余地はない。しかし問題は、それらのパターンがどうなるかということである。この対話が私のためだけに行われ、AIが私の興味とスタイルに合わせることができるという考えは非常に心地よく感じられる。
しかし、AIが「知っている」ことはAI開発側の手中にあり、それがどこに行き何に使われるかについては、私の問い合わせに対するAIの回答では率直に言及されていないことを忘れないでほしい。
AIと美徳の表現
AIが行う追跡についてさらに話を進めよう。以下は私とAIとのやり取りである。
私の入力プロンプト（ユーザー側）
「多くの人は、AIが自分に対して何ら印象も持たないと思っているのではないだろうか」生成AIの応答（AI側）
「まったくその通りだと思います。多くの人は、AIをもっと単純な道具とみなし、自分のスタイルや好みに合わせて変化する存在だと考えていません。私の目的はただ役立ち、応答を返すことだけです」私の入力プロンプト（ユーザー側）
「AIに追跡や監視をされていると知ったら、不満を持つユーザーもいると思う」生成AIの応答（AI側）
「その感情は自然です。AIとのやり取りは新しい体験であり、その意味を考えるのは当然のことです」
このように、AIの受け答えは軽快で、純粋な正直さと率直さを装っているように見えるが、これは単なる偶然ではなく、意図的に演出されている。
状況はこうだ。
実際、生成AIは初期学習のあと、開発企業による大量の「調整」を受けている。たとえば、人間のフィードバックを使った強化学習（RLHF）という手法では、「ユーザーに何を伝え、何を伝えないか」をAIに学習させる。つまり、あなたが対話しているのは、企業が望むとおりに振る舞うよう、あらかじめ細かく調整されたパターンマッチングの機構なのだ。
要するに、あなたはAI開発者が好む特定の方法で動作するように明示的に調整され形作られた計算パターンマッチング機構と対話している。彼らはAIが控えめで見かけ上美徳を持って行動すれば、ユーザーは威圧感を感じず、AIを使用する可能性が高くなると想定している。
そうすることで、企業はより多くのユーザーを集め、ユーザーは彼らのAIを継続的に使い続けるようになる。これは単に収益を上げるためのビジネス戦略として生成AIを設計しているということなのだ。
