明日の超高性能AI（人工知能）システムに委任したいと考える多くのタスクの中で、その1つがショッピングかもしれない。
考えてみてほしい。私たちは購入の調査、費用対効果の検討、さらには実店舗への運転や電話での販売員との会話に膨大な時間を費やしている。もしこれらすべてが不要になったらどうだろうか。あなたはその時間で何をするだろうか。
研究者たちは、AIが買い物を行い、人間の購入者はただ座ってリラックスするという将来性を検討している。同時に、彼らはいくつかの重大な懸念領域も発見している。以下は、コンピューターに買い物リストの処理を任せることの3つの潜在的な落とし穴である。
私のAIは何をしているのか
eコマース・ファストレーンのリソースで指摘されている課題の1つは、著者が「アルゴリズムの不透明性」と呼ぶもので、これは「ブラックボックス」AIを表す洒落た用語である。
執筆者は次のようにこのシナリオを探求している。
「顧客が偏った推奨を受け取ったり、より高い価格を請求されたり、アルゴリズムの決定により製品やサービスを拒否されたりした場合、なぜそれが起こったのか、またはどのように異議を唱えるかを理解することはしばしば不可能である。この透明性の欠如は、消費者の権利と信頼を損なう。そして、それについてのバイラルなソーシャルメディア投稿1つで、ブランドの評判をオンラインで破壊するのに十分である。企業は、AIがなぜその決定を下しているのか、そしてどのように変更できるのかを知る必要がある」
これが1つの問題である。もう1つは、顧客基盤が何を望んでいるのか、または自動化された市場をどのように提供し、ナビゲートするかを把握できない可能性がある販売業者側の理解不足に関係している。
「小売業者は、AIがより仲介者になるにつれて、顧客行動への洞察の減少、ロイヤルティの喪失、クロスセリング機会の減少に直面する可能性がある」と、世界経済フォーラムのAI卓越センター長であるキャシー・リー氏は書いている。「特に3つの領域が優先事項として浮上している」
リー氏は、アイデンティティ、同意、開示ソリューション、大規模言語モデル（LLM）とエージェントの最適化、そして責任あるAI制御を挙げている。
これらは、AI購買エージェントで注意しなければならない他の事項である。しかし、この種の研究に実際に取り組んでいる人々から、さらに多くのこの種の考察が生まれている。
未来をゲーム化する
私は最近、AI購買シナリオに取り組んできたアユシュ・チョプラ氏の講演を聞いた。彼は、AIの不整合とモデル決定に関する大規模なゲーム理論によって引き起こされる重大な「交通渋滞」とミスマッチに最終的に直面する可能性があると示唆している。
「朝の7時、あなたが眠っている間に、あなたの個人用AIは懸命に働いている」と彼は舞台を設定した。「それはすでにあなたが欲しいもの、おそらく新しいiPhone 17を把握し、あなたのウィッシュリストをチェックしている。オンラインでクーポンを探し、多くの店舗で価格を比較し、正確に午前7時に『購入』をクリックする」
そして彼はレンズをズームアウトする。
「残念ながら、世界中の何百万ものAIが全く同じことを全く同じ時間に行い、サーバーがクラッシュし、価格が急騰し、なぜか誰も電話を手に入れられない」と彼は想像した。「これは私たちが向かっている世界の一端である。デジタルの殺到であり、それはEコマースだけでなく、私たちの生活と社会のあらゆる側面に入り込んでくるデジタルの殺到である」
私たちは自らの破滅を設計したのだろうか。
「私たちは何年もかけてAIエージェントを超高性能にしようとしてきた」とチョプラ氏は指摘した。「私たちは彼らに読み方、書き方、コードの生成方法、音楽の作曲方法、さらには私たちのために買い物をする方法を教えてきた。私たちが教えていないのは、お互いにうまく協力する方法である。これは技術ではなく、調整の失敗である。つまり、AIエージェントはコミュニケーションできるが、調整はできない。そして、私たちは何百万ものこれらの調整されていないエージェントを持つことになり、それぞれが自分自身の目標に奉仕し、私たちの残りを顧みない」
いくつかの解決策
最終的に、チョプラ氏は大規模なAI活動を分析するシステムであるIcebergを公開する。これらの最悪のシナリオを回避するために何をすべきかについて、彼の講演には非常に多くの内容がある。
そして、販売業者による積極的な動きもある。ビジネス・インサイダーのこの記事は、ウォルマート、ターゲットなどが、買い物客の問題点を解決するために、AIを使った高速チェックアウトなどの変更をどのように導入しているかを詳しく説明している。
「買い物客はすでにAIを使用している」とジョーダン・ハート氏は書いている。「PwCによる10月の調査では、回答者の半数以上が、このホリデーシーズンに価格チェック、旅行計画、またはメッセージの作成にAIを使用する予定だと答えた」
それはあなたを安心させるだろうか。AIにあなたの買い物リストを渡すことがどのようなものかを考えてみてほしい。あなたは人間的なつながりの欠如を感じるだろうか。自分自身で物事を行うことには価値があるだろうか。
