Temvox.comの創業者兼CEOであるオレグ・マリー氏は、音声AIソリューションを専門とし、AIを活用したカスタマーサービスの拡大においてスタートアップ企業を指導している。
規制対象企業との日常業務において、私は同じパターンを繰り返し目にしている。チームは音声AIのスピードと拡張性を評価するが、プライバシー設計、法的根拠、ベンダー管理の問題でパイロット導入が停滞するのだ。では、スピードとセキュリティのバランスはどこにあるのだろうか？
私の視点では、成功するケースはこのように進行する。新機能を追求する前に、まずデータをマッピングし、平易な言葉でポリシーを選択し、ガードレールを設定するために最初の段階でペースを落とすのだ。当然のことのように思えるが、ほとんどの企業は生産性の速さを示すためにこれらのステップを省略している。
ユーザーも、スムーズなユーザーエクスペリエンスとセキュリティのトレードオフに直面すると、より慎重になる。私の経験では、企業が何が記録され、どこに保存され、なぜそうするのかを説明すると信頼が高まる。最近の調査もこれを裏付けている。オンラインサービスのメリットがプライバシーへの懸念を上回ると答えた人は48%にとどまり、2024年の58%から減少している。これはこの質問が追跡されて以来、最低レベルだ。
DPIAと生きたデータマップから始める
ユーザーエクスペリエンスを設計し、製品のコードを書く前に、データ保護影響評価（DPIA）を実施し、製品のユーザーフローにおける音声データの動きをマッピングしよう。音声、文字起こし、発信者識別子、意図メタデータ、埋め込み、下流レコードなどだ。各要素がどこに存在し、誰が処理し、どれくらいの期間保持し、誰がアクセスできるかを文書化する。プロジェクトの開始時にこのプロセスに時間を投資することで、予算を節約し、将来の安心感を得ることができる。私のプロジェクトでは、この成果物がデータ運用の基盤となり、新しいベンダーが登場したり、範囲が変更されたりした際に、誰もが参照するリファレンスとなる。
マッピングを行う際、地域外に出る可能性のあるデータの取り扱い方法を事前に決定しておく。Amazon Web ServicesやMicrosoft Azureなどのグローバルインフラプロバイダーは、現在ストレージとサポートに地域境界を提供している。これらのオプションがあっても、デフォルトの動作と例外が許可される限定的な条件を文書化することが不可欠だと私は考えている。
明確な法的根拠を選択し、各フローに結びつける
法的側面はシンプルで実用的に保つ。ほとんどのサービスコミュニケーションは、次の3つのカテゴリのいずれかに分類される：
• 顧客が期待するものを提供するために処理されるデータ。
• 不正防止や品質向上などの正当なビジネスニーズ。
• オプション機能や機密トピックに対する同意。
私の経験では、どの理由がどのフロー（例：予約リマインダーとマーケティングフォローアップ）に適用されるかを文書化し、それに応じてシステムの動作を設定することが重要だ。これは、特定の意図を人間にルーティングしたり、保持を抑制したり、特定の管轄区域でボットが言うことを制限したりすることを意味する場合がある。
居住性とコントロールを考慮した設計
インフラストラクチャは、デフォルトで地域サービスとストレージを目指して構築し、音声と文字起こしが実際にどこに保存されているかを証明できるようにすべきだ。また、各プロバイダーに「証拠パック」を含めるよう要求すべきだ：居住性に関するコミットメント、保持オプション、暗号化、キー管理、サブプロセッサーのリストなどだ。マイクロソフトのEUデータ境界は2月に完成し、多くのサポート対話についてもEU/EFTAストレージを拡張した。その文書をパックに含めることで、すべての関係者のための例外処理に役立つ。
まずガードレールを構築する：検索、検証、人間介在型ループ
音声AIの問題のほとんどはモデルの失敗ではなく、ガバナンスの失敗だ。ビジネスリスクを軽減し、規制当局を安心させる3つの要素があると私は考えている。
1つ目は検索優先生成だ。回答はポリシー、価格設定、規制対象コンテンツについて承認された知識に基づくべきだ。監査が可能になるよう、どのソースが使用されたかを記録すべきだ。2つ目はアクション検証だ。影響の大きいステップの前に詳細なチェックを要求し、リスクの高い意図、VIP、またはIDに関連するアクションについては人間に引き継ぐ。最後に、スムーズなエスカレーションを実践する。ボットに「それについてはお手伝いできません」と言わせ、最小限の摩擦で人間とのコミュニケーションに切り替える。このガバナンスの基盤は、特定の緩和策へのリスクを特定し、サポートルーティングを最適化するのに役立つ。また、AI RMF 1.0でフレームワークをチェックすることをお勧めする。
重要なことを測定する
上記のすべてのインフラ最適化実験は、常に同じ課題に直面する：パフォーマンスを追跡し、改善を測定する必要性だ。成功をどのように定義し、再設計の全体的な影響を理解するにはどうすればよいだろうか？
私の経験では、3つの指標グループが新しいデータプロトコル採用の効果を監視するのに役立つ：
• 会話離脱率：ガードレールがアクションをブロックする頻度はどれくらいか？制限されたトピックに対する拒否はどれくらいの頻度で発生するか？
• エクスペリエンスの継続性：拒否後の人間への引き継ぎ時間と、それらの会話で完全なコンテキストを含む引き継ぎの割合を監視する。
• 運用効率：ボット支援通話の平均処理時間、迂回率、再連絡率を測定する。
世界中で46%の人々しかAIシステムを信頼すると言っていないことを忘れないでほしい。各AI最適化は明確で測定可能な目的を追求すべきだ。蒔いた種は刈り取ることになる—適切な理解なしにAIをハイプ技術として統合すると、ビジネスの複雑さが増し、予算を浪費する可能性がある。
発信者に透明性をもって伝える
透明性はビジネスのクレームや法的リスクを軽減するのに役立つ。会話が記録されたりAIによって分析されたりする場合は人々に通知し、可能な場合はシンプルなオプトアウトを提供し、必要以上に生の音声を保持することは避ける。公開プライバシー通知は短く、読みやすく、DPIAとデータマップに沿ったものにする。
