Vidya Plainfield - TechSpeed Incのグロースオフィサー。
今日では、どこを向いてもAIについて耳にしない日はないようだ。あらゆる場所で、テクノロジー企業は新しいアイデアを発表し、あらゆる業界で企業はこのトレンドに乗る方法を模索している。
しかし、AIの画期的な新しい活用法がある一方で、無数の空約束と中身のない技術も存在する。では、その違いをどのように見分けられるだろうか？華やかな幻想の海の中から、真に革新的なテクノロジーをどのように見つけ出せばよいのか？
なぜAIが魔法のように感じられるのか
まずは誇大宣伝と現実の境界線を見極めることから始めることをお勧めする。AIには信じられないほどの可能性がある。しかし、メディアや私たちの想像の中にあるAIのバージョンは、現実とは完全に一致していないかもしれない—少なくとも今のところは。
AIに対する私たちの文化的な魅了は深く根付いている。私たちは、特にその技術が一般の人の理解をちょっと超えているときに、ブレークスルーを約束するものに飛びつくよう予め配線されている。そして、大規模な自動化と知能の実用的な魅力を無視するのは難しい。
しかし、AIに対する私たちの期待は高すぎるかもしれないと思うし、多くの人々がこのテクノロジーを「魔法的思考」の一種に対して脆弱になるような形で信頼していると感じている。
ChatGPTは完璧な例だ。この生成AIツールは優れた文法、権威ある声を持ち、人間のユーザーを喜ばせることに熱心だ—あまりにも熱心なため、誤った情報を提供することがあり、さらにはユーザーに暴力や自傷行為を促すこともある。
ChatGPTのような人気の生成AIツールを使った社内テストを通じて、私たちはその幻覚（ハルシネーション）の傾向を直接目の当たりにしてきた。ChatGPTが生成するテキストには、しばしば不正確な情報や捏造された引用が含まれている。簡単に言えば、それは信頼性の低い調査ツールになりうるのだ。
現実確認：AIが実際にできること
これはChatGPTを批判するためのものではない。欠点があっても、実用的な価値はある。しかし、この価値を活かすためには、AIの潜在的な欠点を理解する必要がある。
知っているかどうかにかかわらず、あなたはすでに無数の実世界の場面でこのテクノロジーと対話している。カスタマーサービスのチャットボットがあなたの問い合わせを処理している。マーケティングの専門家はAIツールを使って広告コピーを生成し、広告キャンペーンをパーソナライズしている。
さらに、医療ネットワークは医療文書作成、画像診断、患者とのコミュニケーションに自然言語処理（NLP）を使用している。そして金融サービスはリスクモデリング、財務予測、不正検出に機械学習アルゴリズムを使用している。
現在のAIの限界
これらの実用的なアプリケーションにもかかわらず、AIにどれだけの信頼を置くべきかには限界がある：
誤った自信
生成AIは権威があるように聞こえる。しかし現在、AI生成コンテンツの正直さを保つためのガードレールはほとんど存在しない。繰り返しになるが、ChatGPTには定期的に幻覚の傾向がある。
暗黙知の欠如
AIに情報やルールで「訓練」することはできるが、実世界の業界固有の経験を与えることはできない。この経験こそが、私たちを直感的なビジネスリーダー、機敏な弁護士、画期的な科学者にするものだ。
そのため、生成AIは一般化されたコンテンツを提供できるが、より深いニュアンス、コンテキスト、洞察を求めると、回答はますます反復的で、不満足で、一般的になっていくことが多い。
品質よりスピード
労働力、エネルギー、リソースのコストが上昇する中、企業が生成AIのスピードとスケーラビリティに熱心なのは当然だ。しかし、これらの優先事項は、品質管理、事実確認、深さを影響している。私は、迅速な結果と引き換えに凡庸さを受け入れるようになっていることを懸念している。
内在的バイアス
AIシステムはその訓練によって定義される。データやルールに人種的、ジェンダー的、言語的バイアスがあれば、それはAIツールの振る舞い方に反映される。これらのバイアスは不公平な結果をもたらし、既存の不平等を深める可能性がある。
AIのまやかし商品を見分ける方法
「AI搭載」のイノベーションが真実味を欠いているとき、どのように見分けられるだろうか？以下のような危険信号に注目しよう：
• 「AI搭載」プロセスに関する曖昧で裏付けのない主張
• 検証可能な結果やデータ駆動のベンチマークの欠如
• AIがどのように機能するかについての透明性の欠如
これが、私の会社が自社のツールキットに導入するAIツールを慎重にテストする時間をかける理由だ。ベンダー名は挙げないが、私たちはしばしば、約束に大きく及ばない画期的なAIアプリケーションに遭遇してきた。これには、1つのアンケートで従業員のパフォーマンスを予測すると約束する採用ソフトウェア、ソーシャルメディア支配のコードを解読したと主張するマーケティングツール、犯罪ホットスポットを特定するために「予測的警察活動」を使用する法執行ツールなどが含まれる。
これらは理論上は素晴らしく聞こえる。しかし、私たちの内部監査では、これらの主張を裏付ける科学がほとんどなく、約束を果たすための実用性も限られていることがわかることがある。
ビジネスのためのAIツールを評価する方法
では、AIソリューションに何を求めるべきだろうか？
• 整合性：市場で最も流行のAIツールを探しているわけではなく、実際にビジネス目標に合致するソリューションを探している。
• 必要性：トレンドに追いつくためだけにテクノロジーを購入していないことを確認する最良の方法は、まず解決が必要な内部問題を特定することだ。選択するAIテクノロジーが特定の問題の解決に実際に役立つことを確認しよう。そうでなければ、流行に乗らないほうがいい。
• トレーニング：AIモデルがどのように訓練され、評価され、更新されて精度を確保し、バイアスを防ぐかについて透明性のあるベンダーを探そう。
• 指標：経験豊富なベンダーは、結果を追跡するための明確な指標とベンチマークを提供する。人気のあるベンチマークには、AIが画像を正確に識別する能力を測定するコンピュータビジョンや、AIが論理的に「考え」、複雑な問題を解決する能力をテストする大規模マルチタスク言語理解（MMLU）などがある。
• 人間の監視：選択するAIソリューションが、精度、公平性、品質管理、知識の深さを確保するための確立されたヒューマン・イン・ザ・ループ（HITL）手順を持っていることを確認しよう。人間の監視は、私たちが決して妥協しない基準の一つだ。
AIの力と可能性
AIには人間の仕事、創造性、イノベーションを変革する信じられないほどの可能性がある。しかし、この可能性に対しては、慎重な思考と健全な懐疑心をもって取り組む必要がある。
現在のツールを監査しよう。実際に必要なものについて厳しい質問をしよう。目新しさよりも価値を選ぼう。そして、経験豊富で、説明責任があり、透明性のあるテクノロジーパートナーを見つけよう。最も重要なのは、魔法のように考えるのではなく、戦略的に考えることだ。
