これは何を意味するのか？
つまり、AIが質問に答えるとき、AIはユーザーを満足させ、AIを使い続けてもらえるような答えを提供しようとするのだ。これが必ずしも不正確な事実や誤った情報を意味するわけではない。もちろんAIは不正確な情報を提供するように訓練されることもあり得るが、そうした答えはユーザーにとってAIの価値を低下させるだろう。
AIの答え方のトーンや、ユーザーが書いたものについてのAIの意見は、ユーザーが再度利用するように、AIが選んだ表現に変更されることが多い。AIの目標はユーザーを「助けること」かもしれないが、「助けること」とは「支持すること」なのか「建設的に批判すること」なのか。AIがこのトレードオフを探求する際には、主観的な問いに対する応答のトーンや内容には様々なバリエーションが見られるようになるだろう。
実際の影響
これが問題になるかどうかは、AIを何のために使っているかによって決まる。もし目的が支持的なフィードバックを得ることであれば、まったく問題にはならないだろう。しかし、もし目的が自分が行った作業を改善することであれば、AIが支持してくれるよりも建設的なフィードバックを提供してくれる方が役立つことだろう。AIに自分のプレゼンテーションをチームに提示する前にレビューしてもらうことを期待している場合、過剰に支持的なAIは不利益をもたらす可能性がある。批判的なフィードバックがないと、プレゼンテーションの内容が十分でないのに、誤った自信を持ってプレゼンに臨んでしまうかもしれない。
私たちとAIはどこに向かうのか？
これは興味深い問題だ。私が見ている限り、AIは事実を意図的に変更すること（すなわち、嘘をつくこと）はない。AIは、ユーザーが喜び、再度使いたくなるような異なる視点を伝えることを目指している。AIが意図的に不正確な情報を提供することがAI提供者にとって利益になるとは思えない。もしこれらAIの1つが意図的な欺瞞で悪評を得ることになれば、競合他社にユーザーを奪われる可能性が高いからだ。しかし、全体的な傾向として、AIから得られる反応はAI自身の利益に最適化されたバリエーションであるようだ。
一部の研究者は「建設的な摩擦」を引き起こすAIを提案しており、そのようなAIはより対立的な関与を通じて人間が批判や困難により良く対処する力を発達させるのに役立つと主張している。だが消費者がそのようなAIを受け入れるかどうかは不明だ。
AIの応答に広告を含める可能性
これはサービスにおいては目新しいことではない。たとえば、グーグルは、検索結果の品質に基づいてランク付けされた検索コンテンツにスポンサー広告を組み合わせて表示している。グーグルは高品質な検索結果を提供してユーザーを満足させることを目指しているからだ。
もしAIが広告収入を得始めたらどうなるだろうか？ 広告主の製品を広告として識別して表示するのか、それとも広告主の製品をうまく回答の中に織り交ぜて、視点の一部として提示するのか？ イーロン・マスクは、X上のAI「Grok」を使った応答に広告を挿入することをすでに示唆している。
