ラジェシュ・ルドララディヤはLytxのCTOで、AI駆動の車両管理技術を推進している。グローバルテクノロジー分野で25年以上の経験を持つ。
今年の春、晴れた日の早朝、ある車両管理者のスマートフォンに通知が届いた。所属ドライバーの一人が疲労の兆候を示しているというものだった。
この警告はドライバーからではなく、車線逸脱、頭の揺れ、まぶたの震えといった微妙なパターンを検出したアルゴリズムによって発せられたものだった。このイベントは人間のレビュアーに転送され、彼らはアルゴリズムの疑念を確認した。確かに、このドライバーには介入が必要だった。それも急いで。
管理者はすぐに電話をかけた。「調子はどうだい？システムが疲れているかもしれないと警告を出したんだ」
ドライバーは疲れ切っていることを認めた。管理者は安全な場所に車を停めて休息を取るよう促した。数日後、管理者は単純な質問をした。「何か問題はある？」
ドライバーの答え：「家に生まれたばかりの赤ちゃんがいるんです。よく眠れていなくて」
新生児のことをアルゴリズムは知らなかった。それがポイントなのだ。
私たちはAIについて間違った議論をしている。AIを巡る議論は二項対立の叫び合いになっている。悲観論者は大量失業を予測する。楽観論者は、あらゆる技術変革が新たな機会を生み出し、最終的に人類を前進させると主張する。双方がデータ、論考、バイラルなLinkedInの投稿を駆使して自説を展開している。
しかし両者とも間違った問いを立てている。問題はAIが人間の仕事を遂行できるかどうかではない。多くの場合、それは可能だ。アマゾンは最近、1万4000人の従業員を解雇すると発表し、AIは「インターネット以来、最も変革的な技術だ」と述べた。アマゾンは間違っていない。AIはパターン認識、データ分析、反復可能なプロセスをスケールで実行することに驚くほど長けている。
しかし、ここで意外な展開がある：私たちはこの映画を以前にも見たことがあり、それは必ずしも表計算シートが予測するような結末にはならない。
2024年、後払いサービスを提供するKlarnaは従業員の40％削減を発表し、AIの「生産性を向上させ、日常生活を改善する膨大な可能性」を宣言した。しかし1年も経たないうちに、Klarnaは再び採用を始めた。
彼らの説明によれば、「AIはスピードをもたらす。人材は共感をもたらす」とのことだ。
これは後退ではなく、彼らが間違った指標を最適化していたという認識だった。文脈のないスピードは、単に大規模な間違いを素早く犯すだけだ。AIは自分が知らないことを知らない。さらなる文脈を掘り下げる好奇心がない。真の感情知能を欠いている。そして、微妙な状況での判断を下すのは得意ではない。
しかし、AIが非常に優れていることについても明確にしておこう。その能力を過小評価することは、過度に依存するのと同じくらい無知なことだからだ。
人間の車両管理者は、複数のタイムゾーンにまたがる数千人のドライバーを同時に監視して、運転行動のマイクロパターンを探すことはできない。アルゴリズムは瞬きをせず、気が散ることもなく、眠ることもない。人間の認知能力では単純に対応できないスピードとスケールでセンサーデータを処理する。AIはまた、容赦なく一貫性があり、訓練された同じ基準をすべてのドライバーに適用し、テラバイト単位のセンサーデータに埋もれた干し草の中の針を見つけるためにパターンを継続的に選別している。
これらは些細な利点ではない。疲れたドライバーは、人間の監督者が時間内に発見できなかったものをAIが捉えたからこそ、必要な助けを得ることができた。
したがって、本当の問いは「AIは何を置き換えられるか？」ではなく、「人間の知性がAIの能力をどこで強化できるか？」ということだ。人工知能と人間の知性がどのように組み合わさって、より高度な知性を生み出せるかというシステム設計の問題なのだ。
この答えが、どの企業が前進し、どの企業が取り残されるかを決定する。MITの最近の調査によると、AIパイロットに投資している企業の95％以上がゼロリターンを得ているという。
最近、冒頭の話に登場した企業（Lytxのクライアント）の幹部に、AI投資に対するリターンを感じているかどうか尋ねた。彼は「命に対するリターン」を得たと感じていると答えた。
自動疲労検出は、自動車OEMやテクノロジー企業が何十年も取り組んできた問題の一つだ。彼らが達成できた最高の精度は約50％にとどまり、つまり半分の時間でアルゴリズムは間違っていた。それは疲労が単一の信号ではないからだ。疲労を正確に識別するには、時間をかけて分散した数十の異なる信号を処理する必要がある。
価値を生み出すには、AIのスケールと監視能力を人間特有の能力と組み合わせることが必要だ。記事の冒頭で説明したケースでは、人間が2つの重要な差別化要素を注入し、最適な結果につながった。
最初のものは、プロフェッショナルな人間による検証だった。歴史的に、業界の疲労検出モデルは精度の低さに苦しんできた。今日、人間の検証ループを組み込んだシステムは、継続的な人間のフィードバックがモデルの解釈を時間とともに洗練させるのに役立つため、劇的に高いパフォーマンスを達成する傾向がある。
2つ目は、管理者とドライバーの間で起こった。ドライバーは必要な休息を取ることができた。しかしさらに重要なのは、フォローアップのコーチング会話が点と点をつなげるのに役立ったことだ。
人間のフォローアップがないアルゴリズムは単なるデータに過ぎない。アルゴリズムによる監視がない人間の管理者は手探り状態だ。これが競争優位性のアーキテクチャだ：AIを本当に優れている場所に展開し、人間の知性をそれが代替不可能な場所にシステムに組み込むのだ。
カリフォルニア大学サンディエゴ校が今年初めに発表したパフォーマンス向上とリスク低減のための様々なアプローチの有効性に関する最近の評価は、同様の結論に達した：結果を最適化するには、技術と人間の相互作用の相互に強化し合う組み合わせが必要だ。
繁栄する企業は、最大の自動化を達成する企業ではなく、これらの問いに正しく答える企業だろう：
• AIの疲れを知らないスケールをどこに適用できるか？
• どこで人間の経験と判断が必要か？
• 両者はどこで相互作用する必要があるか？
適切に行われれば、アルゴリズムは意思決定者が適切なタイミングで適切な人々と適切な会話をするのに役立つ。休息を取るよう促されたドライバーは、相互依存のために設計されたシステムのおかげで、今日より安全だ。これはAI対人間の問題ではない。これは両者が設計通りに協力して、真に非凡なことを成し遂げることなのだ。
