中小企業がAIツールに溺れているわけではない。それらのツールが生み出す「意思決定」に溺れているのだ。コストの低下によりカスタマーサービスの自動化は手軽に導入できるようになり、創業者たちは顧客体験に責任を持つ担当者を置かないまま、次々と自動化を進めている。
配送状況の更新、追跡リンク、注文確認は、顧客が即座に欲しがるまさにその情報であり、この分野では自動化が常に人間を上回る。しかし金銭や信頼、心情が絡む場面になると、判断ミスの代償は跳ね上がる。消費者は1年前と比較してAIの応答を見抜く力が格段に向上しており、不適切なタイミングでボットに対応されることは、その企業が顧客をどれほど大切にしているかを示すシグナルとなっている。ここを間違えれば、顧客を失うリスクを負うことになる。
本当に自動化すべきものとは何か
自動化が最も効果を発揮するのは、人間が繰り返し行い、判断をほとんど必要としない業務だ。したがって最初に問うべきは「そのタスクはどの程度自動化に適しているか」である。Brysaの創業者兼CEOであるSatish Thiagarjanは、直感に頼るのではなくスコアリングシステムの活用を提唱している。
「高度に自動化されたものについては、何か問題が起きた際の下流への影響が最小限であるべきで、管理されたプロセスである必要がある」と彼は語る。「タスクが重要になればなるほど、人間の関与が必要となる。私のリスクスコアリングのフレームワークでは、反復性、自動化可能性、重要度、下流への影響、財務的・評判的リスクを見ている。これは、多くの中小企業が現在行っている自動化の逆だ。彼らは最も安全なものではなく、最も安価なものを選んでいる」
安価なツールが「高くつく問題」を生むとき
従量課金制の料金体系は、利用ボリュームが少なければ自動化がほぼ無料であるかのように思わせ、多くの創業者はその決定を二度と見直そうとしない。Thiagarjanは、これがすでに裏目に出始めていると警告する。
「トークンの消費量を最大化する（token-maxxing）道を突き進んだ企業は、測定可能なリターンや効果的なROI（投資対効果）が得られない場合、すでに自動化の規模を縮小している」と彼は語る。
しかし、より大きな問題は信頼だ。自動化は顧客体験を向上させるべきであり、混乱を招いたり、誤解を与えたりするものであってはならない。
「自動化されたシステムが人間のふりをした時点で、信頼は崩壊し始める」とThiagarjanは言う。「人間の価値は、共感、判断力、経験、そして問題をクリエイティブに解決する能力にある」
自動化は、エスカレーション件数、解決までのスピード、顧客が人間の介入を必要とする頻度など、測定可能なトリガーを用いて見直されるべきだ。それらの閾値を超えた場合、自動化を減らすか、より早い段階で人間を介在させるなど、プロセスを再検討する必要がある。
AIが「身に覚えのない約束」を捏造するとき
Iron Stableは、オートバイの部品を世界規模で販売しており、フランス語とドイツ語の顧客からの問い合わせ対応にAIを使用している。それはうまく機能していた。機能しなくなるまでは。ある時、システムは会社が一度も交わしたことのない約束を捏造し始め、存在しないチームからの折り返し電話や、誰も開始していない調査を約束するようになった。解決策はプロンプトの改善ではなかった。ワークフローの完全な再設計だった。
同社のCOOであるDale Gillespieは次のように説明する。「当初はプロンプトの設計に問題があると考えたため、チームは文章で対処しようとした。折り返しを約束しないこと、存在しないチームに言及しないこと、調査中であると言わないことなどを指示した。いくつかの問い合わせに対しては指示通りに機能したが、提示された選択肢では解決できない問題に直面した瞬間、再び何かを捏造するのだった」
パターンは明らかだった。システムが行き詰まったときにのみ、それが起きていたのだ。
「単純な返品対応であれば、問題はなかった。しかし、ルールから外れた案件を与えると、対応できないと伝えるのではなく、勝手にその隙間を埋めようとした」と彼は付け加える。「しかも、より優れたモデルほど、そうした捏造を減らすどころか、むしろ多く行っており、そのことが私の考えを変えるきっかけとなった。より強力なモデルが状況を悪化させるのであれば、プロンプトを工夫したところで解決には至らない」
同社はワークフローを複数のモデルと人間の査読者に分割した。各ステップでは1つのタスクのみを実行し、問題を引き起こす範囲を限定した。翻訳には、あえて小規模で性能の低いモデルを使用している。言葉を変換することだけがその任務だからだ。
「余計な脚色をするほど賢くない。それこそがまさに、私たちの求めていることだ」とGillespieは言う。「下書きを作成するエージェントは優秀だが、フランス向けの特定のルールを読み取ってドラフトを作成するだけで、送信は行わない。人間が承認した後、小規模モデルが逆翻訳し、最終チェックで回答を許可された約束事項のリストと照合する。不適切な場合は送信を拒否し、二次対応に回す仕組みになっている」
「温かみ」こそが成果物である
写真・動画制作会社のShootdayは、見込み客に対する自動返信は迅速であるものの、クライアントが期待するよりも一貫して冷たい印象を与えており、それが成約率に反映されていることに気づいた。自動化によって返信は早くなったため、タイミングの問題ではなかった。
「どちらかといえば、これまでにないほど素早く返信していた」と創業者兼CEOのSerge Bejjaniは言う。「提供しているサービスも変わっていない。同じ価格、同じ品質、その裏にある同じサービスだ。私たちが取り組み続けたのは、メッセージそのものだった。テンプレートやプロンプトを何度も最適化したが、それでも本物の人間のように自然で温かみのある文章にはならなかった」
データも同じ結果を示していた。素早い返信が、ミーティングの予約増加につながらなかったのだ。スピードと価格の要因はすでに除外されており、どれほどメッセージの文章を洗練させても、そのギャップを埋めることはできなかった。
「最後に残ったのが、人間の部分だった」とBejjaniは話す。「他のすべての条件を一定に保ち、唯一の変数が『本物の人間が相手をしているかどうか』である場合、温かみは単なる抽象的な概念ではなく、決定的な違いとなる」
Shootdayは現在、送信された返信数ではなく、予約されたミーティング数に最適化を行っている。アカウントマネージャーの存在こそが差別化要因になるからだ。優秀なアカウントマネージャーは、クライアントについてリサーチし、本当に必要としているものを理解し、同様のクライアントやイベントの経験を活かして、何が重要になるかを予測する。
「問い合わせフォームからわかるのは、企業がニューヨークでのイベント撮影を希望しているということだけかもしれない」とBejjaniは言う。「しかし、リサーチと実際の会話によって、それがその年にとって最大のクライアントサミットであり、具体的な成果物と厳しい納期が求められていることがわかるのだ」
顧客が定着するかどうかを決める瞬間
家庭向けサービスプラットフォームのCleaners of Londonでは、失った定期顧客のうち3分の2が最初の1カ月以内に去っていた。平均でわずか1.3回の訪問後、絶妙なタイミングで送られた自動メッセージをすべて受け取ったにもかかわらずだ。
「問題が清掃の質にあるのなら、何カ月かの間にたまに悪い対応があって、徐々に離れていくと予想される。しかし、彼らは私たちのサービスを真に体験する前に去っていた」と創業者のNayden Delchevは語る。
チームは、新規顧客が最初の1週間に受け取ったすべてのものを検証した。予約完了メール、リマインダー、そしてレビューリンク付きの「いかがでしたか？」というメールだ。すべて自動化され、すべて時間通りに送られ、すべて技術的に正確だった。
「レビューリンクのコンバージョン率は約3割と良好で、ダッシュボードを見る限り、プロセスは機能していた」とDelchevは言う。「しかし、予約した日以来、会社の人間は誰一人として彼らと話していなかった。最初の清掃は、新規顧客が自宅に他者を入れる上で、その会社を信頼できるかどうかを決める瞬間だ。私たちはその重要な瞬間をテンプレートに委ねてしまっていた」
同社は現在、最初の清掃の翌日に、すべての新規顧客に名前で呼びかける電話をかけている。確認、リマインダー、領収書、スケジュールの変更、支払いなど、顧客が即座に行われると期待するものは自動化し、顧客の記憶に本当に残る瞬間に人間を配置している。
「最初の清掃に対する不満、状況の変化、キャンセルのリクエスト。これらは感情が動く瞬間であり、そんなときに送られるメールは、どれほど丁寧に書かれていても冷淡に感じられる」とDelchevは言う。「予約フォームでは信頼を築くための質問はできない。しかし、5分間の会話ならそれができる」
自動化の本当のテスト
カスタマーサービスの自動化は、コストの問題ではなく、結果の問題だ。間違った問いは「これを自動化できるか？」である。正しい問いは「これを間違えたとき、顧客は何を失うか？」だ。
