ブライアン・チェス氏、Oracle NetSuiteテクノロジー・AI担当上級副社長。
企業におけるAIに関する大きな期待の中で、注目の大半はモデルが何をできるかに向けられており、人々が実際にどのようにそれを使用しているかには向けられていません。しかし、AIが実験的なパイロットプロジェクトから重要業務ワークフローへと移行するにつれ、ユーザーエクスペリエンスが真の成否を分ける要因として浮上しています。
AIが自律的に機能する可能性について多くの議論がありますが、2025年においても、成功するAIワークフローのほとんどは人間の指導を必要としています。一般的なワークフローは次のようなパターンに従います：
1. 人間がAIに作業を依頼し、必要なコンテキストを提供する。
2. AIが出力を生成する。
3. 人間が出力を検証し、それを受け入れるか、ステップ1に戻ってより良いリクエスト（より多くのコンテキストやより良い指示）を提供する。
4. 人間が出力を編集・改良し、自分の作業に統合する。
このような流れは、ソフトウェア開発、カスタマーサポート、グラフィックデザイン、技術文書作成、教育など様々な分野で見られます。リクエストが比較的一般的（必要なコンテキストが少ない）で、人間が出力を簡単に検証でき、出力の統合が容易な場合、このフローはうまく機能します。しかし、人間が適切なコンテキストを提供するのが難しい場合や、AI出力が正しいかどうかを検証するのが難しい場合、あるいはAIの出力をワークフローに戻して統合するのが難しい場合には、うまく機能しません。
AIの価値は、主にこのフローがどれだけうまく機能するかにかかっています。システムがAIにコンテキストを取得することを困難にしたり、ユーザーが返されるデータや推奨事項を信頼していなかったりする場合、高度なAIモデルはあまり役に立ちません。ソフトウェアベンダーの現在の課題は、AIのインターフェースとユーザーのエクスペリエンスをタスクの性質に合わせることです。
AIとの協働と共感を持った対応
協働の必要性を過小評価しないでください。従来のソフトウェアでは、UIの目的はユーザーがソフトウェアが理解できる方法で何をすべきかを正確に伝えることでした—ユーザーはソフトウェアを学ぶ必要がありました。AIでは、UIはユーザーとAIの間の協働を促進するためにあり、ソフトウェアとユーザーが相互にやり取りしながら応答できることを意味します。ユーザーはソフトウェアについてそれほど多くを学ぶ必要はありませんが、求めるものを得るために繰り返し試行する必要があるかもしれません。
AIとの作業を難しくしている要因の一つは、AIが犯すミスが人間が犯すミスとは大きく異なることです。例えば、人間は通常「strawberry（いちご）」の中に「r」がいくつあるかを数えるのに苦労しませんが、AIはその課題に失敗する可能性があります。それでいて司法試験に合格したり、多数の言語でソフトウェアを書いたりすることができるのです。
奇妙に聞こえるかもしれませんが、人間はAIに対して共感を持つ必要があります。AIが何を知っていて何を知らないのか、どのような問題に遭遇するのか、そして物事がうまくいかないときにどのように反応するのかを理解する必要があります。UIがAIのプロセスを説明し、その出力につながった入力を示すことができればできるほど、人間はいつそれを信頼すべきかを知るのが容易になります。
信頼構築におけるUIの役割
ユーザーエクスペリエンスは、企業がAIを最大限に活用するのを支援する上で重要な役割を果たすことになり、シームレスに統合された人間のレビューと承認がエージェントプロセスに組み込まれる必要があります。
ヒューマンインザループのマイルストーンにより、ユーザーはタスクが正確に完了しているかどうかを確認でき、エージェントの調査と推奨に基づいて重要な決定を下すことができます。これらのタッチポイントは、AIが時間とともに学習し改善するのにも役立ちます。
AIがより長い時間、自力で作業できるようになるにつれ、人間はAIをチェックし、何をしているのかを理解し、行き詰まっていれば方向転換させたり、軌道修正したり、重要な決定を承認したりすることが期待されるようになります。
次世代の企業向けAIにおけるユーザーエクスペリエンス
企業向けAIは発展を続けており、パフォーマンスが向上し信頼が高まるにつれて、完全なワークフローや高価値タスクを担当できるようになります。
これらの瞬間のためのインターフェースは、必ずしも派手なものではありません。取引の要約を手渡すチャットウィンドウかもしれません。「進行中」から「完了」に切り替わるダッシュボードのタイルかもしれません。ユーザーが気づかないうちに、AIが目の前のタスクのためにページ全体を生成した、ただの別のウェブページのように見えるかもしれません。AIの力は、ユーザーがそれを見たときに感じる明確さ、制御力、そして自信にあります。
企業向けAIが目新しさから必需品へと移行するにつれ、ユーザーエクスペリエンスはモデルのパフォーマンスと同様に、採用を決定する重要な要素となるでしょう。世界で最も高度なAI機能も、混乱したインターフェースの背後に隠れていたり、ユーザーがAIが正しいことをすると信頼していなかったりすれば、意味がありません。
企業向けAIイノベーションの次の波は、モデルとエクスペリエンスの両方をよりスマートにし、タスク、リスク、そして画面の向こう側にいる人間に応じてAIの表示方法を調整することになるでしょう。
