エンタープライズソフトウェアのあらゆるカテゴリーは、いずれ軍拡競争の様相を呈する。典型例として、AI市場で起きていることを見ればよい。
ハイパースケール大手がより多くの顧客を獲得しようと注目度の高い争いを繰り広げる一方で、これらのAIインフラ提供企業が生み出している下流への影響を受け止める顧客データプラットフォーム市場では、より目立たない戦いが進行している。
ベンダー各社は、新たなアクティベーションツール、より高速なセグメンテーションエンジン、そして生の顧客データを数秒でパーソナライズされたキャンペーンに変えるとうたうAIコパイロットを投入している。その目的は何か。新たなコンタクトやセールスパイプラインの創出を支援する、より強力なマーケティングの仕組みを生み出すことだ。
もちろん、ここで論じているのはエンタープライズソフトウェアであるため、ガバナンスやコンプライアンスへの対応は後回しにされがちである。その結果、コンタクトレコードが本物かどうかを検証するソリューションを提供しているベンダーはほとんどない。
これは避けられたはずの失策である。コンタクトデータの適切なガバナンスを企業が確保するためのソフトウェアを手がけるConvertrのCEO、エマ・ボウケット氏との最近の対話を通じて、筆者はそう理解した。
「マーケターがリストを作成し、それを確認して送信ボタンを押していた時代には、ガバナンスの空白はそれほど問題になりませんでした。しかし今では、AIエージェントがリストを作り、マーケティングコピーを書くだけでなく、自ら送信ボタンを押すこともできるため、問題は大きくなっています」とボウケット氏は述べた。
AIシステムに対する消費者の信頼が低いままである現在、この問題はなおさら重要だ。筆者の会社であるProsper Insights & Analyticsの最近の調査によれば、モデルのハルシネーションやバイアス、人間による監督の欠如などを理由に、最近のAIの発展を懸念していると答えた人は平均で80％を超える。
アクティベーション優先が生む盲点
現在のコンタクトデータプラットフォームは、オーディエンスの構築とパーソナライゼーションに焦点を当てている。チャネル横断でのより強力なID解決、より豊富な行動シグナル、広告プラットフォームとのより緊密な統合、メールや広告クリエイティブを動的に作成する生成ツールなどを思い浮かべればよい。
このプロセスは、その下にあるコンタクトレコードが信頼でき、利用に適していることを前提としている。現実には、顧客データは長年、偽のフォーム入力、スクレイピングされ転売されたリスト、リードに見せかけたボットトラフィック、そして一度も検証されていない古いレコードによって埋め尽くされてきた。この重要なデータをアクティベートするツールは、こうした運用を加速するために設計されたものだ。
レコードの正確性を解決済みの問題として扱うこと、あるいはさらに悪いことに、それを無視することは、人間が出力を監督していた時点ですでにリスクだった。しかし機械がそのデータに基づいて直接行動するようになると、それは法的に持ちこたえられなくなる。
「企業はすでにAIを使い、個人データをより速く、より大規模に拡充し、組み合わせ、行動に移しています」とボウケット氏は言う。「データアクティベーションのプロセスを監督しているのが人間であれエージェントであれ、組織には、そのデータがどこから来たのか、なぜ利用できるのか、そしてどこへ行ったのかを示す責任があります」
ガバナンスという誤ったラベル
多くのデータ責任者は、自社の顧客データにはガバナンスが効いていると断言するだろう。しかし通常、彼らが意味しているのはアクセス制御である。誰がどのテーブルをクエリする権限を持つのか、どのフィールドがマスキングされるのか、どのチームがリストをエクスポートできるのか、といったことだ。それは実在する重要な規律であり、コンプライアンスにとって大きな意味を持つ。
アクセスガバナンスは、誰がデータに触れることを許されているかには答える。しかし、そのデータがどこから来たのか、まして組織がそれを証明できるのかについては何も明らかにしない。これらは別の問題であり、その混同によって、ガバナンスが効いているように見えて実際にはそうではないシステムの中に、多くの未検証データが居座ることを許してきた。
では、不正確なレコードがシステムに入った後には何が起きるのか。ボウケット氏はその答えを知っている。
「因果学習モデルや意思決定エンジンは顧客データを読み取るだけでなく、そこに書き戻しもします」とボウケット氏は述べた。「例えば、あるセグメントはコンバージョン率が高い、あるいは特定の行動が意図を示しているとモデルが推論します。その結論は新たなデータポイントとして保存され、次のモデルはそれを検証済みの事実として読み取るのです」
キャンペーンを計画し、リードをスコアリングし、アウトリーチを起動するAIエージェント群が、人間による入力チェックなしにそのループを回すと、たった1件の捏造された、あるいは古くなったコンタクトレコードが、その後のあらゆるシステムで引用され、再利用され、土台にされる。時間が経つにつれて、パイプライン内には元のレコードがどこから来たのかを問う仕組みがないため、誤りは増幅していく。
この信頼の問題こそ、企業がAI生成の推奨、予測、自動意思決定を信頼したがらない理由である。この議論の多くは、モデルの推論が妥当か、出力が説明可能か、人間が承認したかに焦点を当てている。
Forrester Researchによれば、この信頼ギャップは、組織の86％が、企業全体でのAI導入拡大に対するAIガバナンスとプライバシー上のボトルネックとなる信頼関連の課題に直面している大きな理由である。
なぜ入口での管理がより大きな価値を持つようになるのか
この方程式の入力側には、はるかに少ない注意しか払われていない。
ボウケット氏はこう説明する。「AIシステムは優れた推論を行うことができますが、そもそも実在しなかったコンタクトレコードを与えられていれば、それでも悪い結果を生み出します。残念ながら、今日のほとんどのプラットフォームでは、特定のコンタクトがどこで発生したのか、同意が適切に取得されたのか、そのレコードが実在する人物を表しているのかを、誰も確信を持って言えません」
業界の関心は、まさにここへ移ろうとしている。AIエージェントがリードを評価し、レコードを更新し、次のアクションを起動し始めるにつれて、人間によるレビューは徐々に弱まっていく。つまり、データが企業に入る地点は、その上に構築されるもの以上に重要になる。
システムに入ってくるレコードが、実在し、同意を与えた人物に属するものとして一度も検証されていなければ、その上に構築されたツールがどれほど信頼できるものであっても、下流のすべてがその欠陥を引き継ぐ。
だからこそ、入口での管理はますます重要になる。問うべきことはもはや、レコードが正確かどうかだけではない。そのレコードがどこから来たのか、なぜ利用できるのか、次にどう扱うべきなのかを、企業が信頼できるかどうかである。
リーダーシップにとっての意味
AIエージェントが予算配分の変更を承認し、アカウントをスコアリングし、自律的にアウトリーチを起動するようになると、基礎となるレコードの品質に責任を持つ人物は、事実上、企業が次に何をするかに対して責任を負うことになる。
ボウケット氏は、自社のデータプラットフォームに確信を持つビジネスリーダーは、自社データの内実をなお推測している競合よりも速く、より自信を持ってAIシステムに多くの意思決定を委ねられるようになると考えている。
「強固なデータ基盤を持っているかどうかは、AI主導の意思決定を擁護できる組織と、誤った意思決定が顧客に影響を与えた後に初めてギャップに気づく組織との決定的な違いとなります」とボウケット氏は述べた。
開示：上記で言及した消費者心理調査は、筆者の会社であるProsper Insights & Analyticsが実施した。このデータセットは全米小売業協会（National Retail Federation）が使用しているものと同じであり、経済ベンチマーキング向けにAmazon Web Services、Databricks、London Stock Exchange Groupからも利用可能である。
