デビッド・ウィリアム・シルバ氏は、スマートデータソリューションによるコンプライアンス合理化を使命とするDataHubzのCEOである。
人工知能をめぐる熱狂は、ほぼすべての製品やサービスに「AI搭載」機能を組み込もうとする急速な動きを促している。
業界で見てきた限り、AIの追加はあまりにも表面的なことが多い。企業は大規模言語モデルのAPIを接続し、余分な文章や要約を大量に生成して、それをイノベーションと呼ぶ。AIを取り除いても、アプリケーションは基本的に同じままだ。多くの場合、AIの貢献は限定的、あるいは無関係であり、質ではなく冗長さを、インパクトではなくノイズを提供しているにすぎない。
この傾向は、私が意図的なAIと呼ぶものとは正反対だ。
意図的なAIとは、結果重視のテクノロジー活用に焦点を当てることだ。AIが適切なツールかどうかを問い、真の違いを生み出す場所に組み込み、その違いを測定可能な成果で実証することである。
表面的な採用と意図的な使用を区別するために、私は何年も前から適用している一連の質問を提案する。これらは、誇大宣伝か必要性かを素早く判断するのに役立つ。
意図的なAIの5つの問い
これらの問いは、AIが目的を持って展開されているのか、単に見栄えのために取り付けられているだけなのかを明らかにするのに役立つ：
1. 目的の整合性：従来のソフトウェアではなくAIを必要とする根本的な問題や機会は何か？AIは、より単純なアプローチでは同じ効果が得られない問題を解決するために選ばれるべきである。
2. 機能的統合：その目的を達成するために、AIはシステムのアーキテクチャやワークフローにどのように組み込まれているか？それが中核プロセスを変えないプラグインやウィジェットとして脇に置かれているなら、意図的である可能性は低い。
3. 比較優位性：AIが提供する特定の能力のうち、統計モデルやルールベースのロジックなどの非AI手法よりも優れているものは何か？明確な優位性がなければ、AIは装飾的かもしれない。
4. 代替不可能な貢献：このソリューションにおいて、AI無しでは達成できない不可欠な機能は何か？AIを取り除いても同様に機能するソリューションは、真にAI駆動型とは言えない。
5. 成果の検証：AIコンポーネントが、精度、速度、コスト、ユーザー体験、安全性などのシステムの意図した成果に対して、実質的で検証可能な改善をもたらしていることをどのように測定するか？AIの影響を追跡して検証できない場合、その存在は疑わしい。
これらの質問に答えるのに少しでも苦労する兆候があれば、AIの使用が意図的かどうか疑問を抱くべきだ。5つの質問すべてに対する明確で証拠に基づく回答は、それが意図的であることを示す強い指標となる。
よくある罠：非意図的なAI
プロジェクト更新を要約する「AIインサイト」ボタンを追加したプロジェクト管理ソフトウェアプラットフォームを考えてみよう。モダンに聞こえるが、実際には：
• スケジューリング、レポーティング、リソース管理などの中核機能は以前と同じように機能する。
• AI機能は主要なワークフローから分離されている。
• ルールベースのレポートとダッシュボードはすでにほとんどのユーザーニーズを満たしている。
• AIボタンを削除しても、成果やユーザー満足度は変わらない。
• プロジェクト納品や意思決定の改善を示す指標がない。
ここでは、AIが明らかに意図的ではない。目的、統合、独自の貢献、測定可能な影響のテストに失敗するアクセサリーにすぎない。
ポジティブな例：敗血症予測におけるAI
ジョンズ・ホプキンス大学で開発されたTargeted Real-Time Early Warning System（TREWS）を考えてみよう。敗血症は院内死亡の主要な原因であり、早期発見は命を救うことができる。従来のルールベースのアラートは、発動が遅すぎたり、誤警報が多すぎたりすることが多い。
TREWSは電子カルテからのデータを分析し、バイタルサイン、検査結果、臨床医のメモに見られる敗血症の前兆となる微妙なパターンを特定する。これは電子カルテのワークフローに完全に統合されており、臨床医は既に使用しているインターフェースでリスクアラートを受け取ることができる。
何十万もの過去のケースから学習する能力により、単純な閾値ベースのルールよりも予測上の優位性がある。AIコンポーネントがなければ、システムはより効果の低いヒューリスティックに戻ってしまう。
2022年にNature Medicineに掲載された複数施設での研究によると、TREWSは標準的な方法よりも約6時間早く敗血症を検出し、死亡率が20%減少したという関連性が見られた。
これが意図的なAIである。目的主導で、シームレスに統合され、独自の能力を持ち、その貢献は厳格な査読済みの成果によって検証されている。
誇大宣伝から意図へ
意図的なAIのテストは、それが最先端かどうかではなく、適切な目的のために適切な方法で適用された適切なツールかどうかである。問題に関する明確さ、ワークフローへの思慮深い統合、AIが提供する特定の優位性の認識、そして結果を改善するという証拠が求められる。
チームは、モダンに見えるからとか、競合他社がやっているからという理由でAIを「付け足す」衝動に抵抗すべきだ。代わりに、5つの問いを使用して設計と投資の決定を導くことが有益だろう。多くの場合、従来の分析、ヒューリスティック、または優れたインターフェース設計が、コストと複雑さを抑えつつ、同様に問題を解決できる可能性がある。
AIは、人間の判断を強化し、発見を加速し、決定論的ルールでは対応できない複雑さを理解する場合に最も効果を発揮する。IBMのAI原則は、AIが人間の知性を置き換えるのではなく強化すべきであり、AIライフサイクル全体を通じて人間の監視と機関のバランスを組み込むことを強調している。
AIの最も効果的な使用は、人間の専門知識と組み合わせることから生まれる。特に、微妙な意思決定やコンテンツ作成など、人間特有の強みに依存する作業においてそうである。それが重要な場合、そして成功が測定できる場合、AIはバズワードではなく、力の乗数となる。
規律とエビデンスの擁護
意図的なAIとは、規律とエビデンスに関するものだ。なぜAIに手を伸ばすのか、何を達成したいのかについて深く考えることを私たちに強いる。答えが容易に出て、利点が実証可能であれば、AIは真の目的に役立っている。答えが曖昧であったり、利点が測定されていなかったりする場合、私たちは古いソフトウェアを新しいバズワードで飾り立てているだけかもしれない。
AIラベル付きツールであふれる風景の中で、装飾的な使用と意図的な使用の区別が、どの製品が真にその分野を進歩させ、どの製品が単に誇大宣伝の波に乗っているだけなのかを決定するだろう。
