人工知能（AI）は、現代の商取引を規定する力となった。商品がどのように見つけられるか、どのブランドが露出を獲得するか、そして消費者が関心から購入へとどれほど速く移行するかに影響を与えている。AIがこうした意思決定をますます仲介するようになるにつれ、それはもはや背後で動く技術ではない。消費者体験の能動的な参加者となっている。
その現実が今年初め、注目の中心に躍り出た。TikTokが新たな米国の合弁事業を設立する取引を最終合意し、全国的な禁止措置を回避するために、自社のアルゴリズム、データ、事業運営をより強い米国の監督下に置くことになったからだ。この合意では、アルゴリズムの機能に関する監視と統制が導入された。政府が透明性と説明責任を求めるのであれば、日々の生活を形づくるプラットフォームに対して消費者も同様のものを期待する可能性が高いことを、改めて浮き彫りにした。
その結果、拡大する信頼のギャップが生まれている。AIが利便性とパーソナライゼーションを加速させ続ける一方で、それらの体験を支えるシステムへの信頼は追いついていない。
消費者が求めていること
魅力的なデジタル体験を提供するうえでAIの効率性が中核であり続ける一方、消費者はスピードと利便性だけではもはや不十分だというサインを発している。AIがショッピングの過程全体に組み込まれるにつれ、消費者はいま、プラットフォームが自分たちの目に触れるものや購買にどう影響するのかについて、より大きな透明性を求めている。
40カ国以上でB2CおよびB2Bのブランドと小売事業者にサービスを提供する、グローバルなエンタープライズ向けデジタルコマースプラットフォームであるVTEX（NYSE: VTEX）の最新調査では、消費者の60%がAIを活用したプラットフォームの仕組みについて、より多くの可視性を求めていることがわかった。これらの結果は可視性への需要を示し、消費者がテクノロジーとの関わりを評価する方法に転換点が訪れていることを示唆している。AIはもはや目新しいものではない。現実に存在し、重大な影響をもたらすものだ。レコメンドやパーソナライゼーションが不透明、あるいは不自然に感じられると、体験が速く便利であっても消費者の信頼は損なわれる。
テクノロジーにおける信頼のギャップ
信頼こそがデジタル上のパートナーシップにおける真の通貨であり、いまそれは脆弱だ。VTEXの調査によれば、米国人の43%が、テクノロジー企業同士の提携が公正性と透明性を担保するとは信頼していない。この数字は重要である。消費者のほぼ半数が、テクノロジー企業間の協業が自動的に説明責任や公正性につながるとは確信していないのだ。アルゴリズムが人々の目にするもの、購買、そして信じるものに影響を与える現在の環境では、提携それ自体が誠実さの証明にはならない。
この懐疑は、アルゴリズムのシステムがどのように作動しているのかに対する、より広範な不安を反映している。ガートナー（Gartner）の調査では、消費者の53%がAI対応の検索結果を信頼していない、または確信を持てていないことがわかった。これは、デジタルな意思決定に関する懸念が、単一の企業や話題性のある出来事をはるかに超えて広がっていることを示唆する。プラットフォーム全体で、消費者は結果がどのように形成されるのか、システムが失敗したときに誰が責任を負うのか、そしてこれらのツールの背後にあるインセンティブが自分たちの利益と一致しているのかを問い直している。
筆者の会社であるProsper Insights & Analyticsの最新調査によれば、こうした懸念は広く共有されている。多くの回答者が世代を問わず、AIシステムにおけるバイアス、AIが利用するデータをめぐる透明性の欠如、そして人間による監督の不足を懸念として挙げている。注目すべき点として、消費者の約3割が「AIにはより多くの開示と透明性が必要だ」と答え、26%は「AIが自分たちの最善の利益を念頭に置いているとは信頼できない」と答えている。
Prosper - AIをめぐる最近の動向について、どのような懸念があるか
Prosper Insights & Analyticsこれらのデータを合わせて考えると、TikTokの取引のような注目度の高い出来事がなぜこれほど強く世論に響くのかがわかる。多くの消費者がすでに抱いている直感、すなわちアルゴリズムが力を行使しており、その力にはガードレール（歯止め）が必要だという感覚を裏づけるからだ。
公正性と可視性はいまや譲れない条件
透明性に加えて、消費者は公正性も重視している。VTEXの調査では、消費者の80%が「AIが公正なアクセスと可視性を支える」という確証を求めている。商取引の環境において、この懸念はブランドへの信頼に直結する。
可視性そのものが力の一形態となった。アルゴリズムが、どのブランドが最初に表示されるか、どの商品が「おすすめ」として出てくるか、どの出品者が注目を得るかを左右する状況では、公正性の認識がブランドの信頼性に直接影響する。消費者が、レコメンドやランキングが開示されていない提携や不透明なインセンティブによって歪められているのではないかと疑えば、信頼は低下する。
この変化は、期待の進化を反映している。公正性はかつて主に倫理の議論として扱われてきたが、今日ではより実務的な消費者の関心事になりつつある。消費者が求めているのは、プラットフォームやテクノロジー企業が可視性に対して中立性をもって向き合い、バイアスを責任ある形で管理し、意思決定がどうなされるかについて洞察を提供しているという確信である。かつて抽象的原則だった公正性は、いまや具体的な期待となった。
企業にとって、これは信頼を損なう可能性のある公正性への懸念に対処する機会となる。保護策、基準、説明責任の措置を先回りして伝える企業は際立つ。消費者が求めているのは、システムが中立で説明責任を負うものだという明確さと安心感であり、機械学習モデルについての技術的な深掘りではない。
AIコマースへの信頼を再構築する
前進の道は、イノベーションを減速させることではなく、信頼と整合させることにある。VTEXの調査では、消費者の52%が「AIを活用したショッピングは、信頼を得るためにより透明であるべきだ」と答え、45%が「レコメンドの簡潔な説明が信頼感を高める」と答えている。
これらの結果は、なぜ商品が推薦されるのかを説明したり、パーソナライゼーションの仕組みを明確にしたりといった、比較的簡単なステップがAIへの信頼を再構築し得ることを示している。消費者がレコメンドの「なぜ」を理解すれば、AIは見えない力というより、役に立つ案内役として感じられる。
信頼のギャップを埋める
AIは今後も商取引を再形成し、発見、パーソナライゼーション、業務効率を加速させていく。しかしその成功は、プラットフォームがイノベーションと信頼をどれだけうまく整合させられるかに最終的にはかかっている。
消費者は必ずしもAIを拒んでいるわけではない。理解したいと求めているのだ。これらのシステムがどう機能するのかに関する透明性、公正性が守られているという安心感、そして自分たちの利益がビジネス目標と並行して考慮されているという確信を求めている。
説明可能性（explainability）を体験設計の中に組み込むことで、これらの期待に応えるプラットフォームは、長期的な顧客ロイヤルティを獲得するうえでより有利な立場に立つだろう。アルゴリズムは消費者が何を見て何を選ぶかに影響している。だから信頼は単なる付加価値ではない。基盤である。
開示：上記で言及した消費者のセンチメント調査は、筆者の会社であるProsper Insights & Analyticsが実施した。同調査は全米小売業協会（National Retail Federation）でも使用されているのと同一のデータセットであり、経済ベンチマーキングのためにAmazon Web Services、ブルームバーグ、ロンドン証券取引所グループから入手可能である。
