Muhamad Aly Rifai医学博士、米国精神医学会特別会員、精神医学寄付講座主任、ブルーマウンテン精神医学最高医療責任者兼CEO。
AIの最初のコード行が書かれる前、人間の心を理解しようとする人間の精神があった。
人間の精神は、今日の経営層のAI議論と非常によく融合する。ジャン・ピアジェは、知能が段階的に発達する様子を示した。ジークムント・フロイトは、衝動、道徳的統制、現実の間の緊張を説明した。カール・ユングは投影について説明した。人々が神秘的に感じるものに意味と権威を付与する方法である。これらの人間行動の科学者たちは、大規模言語モデル（LLM）を想像したことはなかった。
私は精神医学を実践し、日々、成長、退行、洞察、否認、変化に遭遇している。さらに、臨床文書作成、ワークフロー自動化、リスク管理された意思決定支援において、応用AIを実践的に扱ってきた長年の経験がある。この組み合わせにより、ROI、コンプライアンス、人的要因に関する稀有な視点が得られ、AIは革命というよりも発達プロセスのように感じられるようになった。AIは私たちのイノベーションの産物である。同時に、私たちの鏡でもある。私たちの言語、私たちのバイアス、私たちのインセンティブ、私たちの盲点を映し出す。リーダーたちはしばしば、AIが完全に形成された状態で到来したかのように語るが、私が見出したより良い枠組みはよりシンプルである。AIはまだ成長しているのだ。
流暢さは成熟ではない理由
ピアジェがリーダーに伝える最も実践的なメッセージはこうだ。能力は段階的に展開し、初期の能力は印象的でありながら、依然として脆弱である可能性がある。現代のAIはすでに「大人」のように話す。下書きを作成し、要約し、コーディングし、説明する。その流暢さは、経営層にその判断も同様に成熟していると信じ込ませる可能性がある。
実際には、今日のAIの多くは、高度な初期学習者のように振る舞う。パターンを一般化できるが、文脈を見逃し、言葉遣いに過剰適合し、もっともらしさと真実を混同することもある。人間の年齢で言えば、AIは小学2年生である。
ビジネスへの影響は即座に現れる。出力が「正しく聞こえる」という理由でAIを高リスクのワークフローに展開すれば、言語と現実のギャップに対する代償を最終的に支払うことになる。これが、医療や金融サービスにおける最高のROIユースケースが、しばしば地味なものである理由だ。それらは、明確な入力、明確な制約、測定可能な出力を持つ、境界が定められたタスクである傾向がある。例えば、カルテの要約、事前承認申請テンプレートの下書き作成、定義された読解レベルでの患者教育資料の作成、受信ファックスからの主要フィールドの抽出、ポリシー参照を含むコールセンター対応下書きの生成などである。
衝動と現実のバランス
フロイトは経営層に第2の運用モデルを提供する。衝動対現実である。AIは継続し、満足させ、完成させるように訓練されている。答えを求めると、システムは通常、最良の答えが「わからない、より多くのデータが必要だ」である場合でも、答えを生成する。この傾向は規制産業において最も重要である。なぜなら、自信に満ちた誤りは、患者、顧客、規制当局に影響を与えるまで、能力のように見えることが多いからだ。リーダーシップの教訓は、現実検証のないスピードはイノベーションではないということだ。それはリスクの加速である。
医療において、現実検証とは出所と追跡可能性を意味する。推奨事項はどこから来たのか。どのガイドラインとどのポリシーか。ソース文書は何か。モデルが関連するポリシーや臨床参照を引用できない場合、それは権威として使用されるべきではない。下書きエンジンとして使用することはできるが、真実と安全性については人間が責任を持つべきである。
金融サービスにおいて、現実検証とは監査可能性とコンプライアンスの整合性を意味する。どのプロンプトが出力を生成したのか。どのデータソースが使用されたのか。どのガードレールが非公開情報の漏洩を防いだのか。経路を再構築できなければ、決定を擁護できない。コンプライアンスチームは最終的にその規律を強制する。成熟した動きは、設計によって今それを構築することである。
投影と「神託」問題
ユングは隠れた洞察である。人間は、完全には理解していないものに権威を投影する傾向がある。AIの出力は知的な声のように感じられるため、組織はそれをシニアアナリストのように扱い始める。それは投影である。また、悪い決定を制度化する最も速い方法の1つでもある。
私は臨床的に類似のパターンを見る。人々が圧倒されると、確実性を求める。企業において、不確実性はコストがかかる。AIは要求に応じて明快な答えを生成するため、不確実性を低下させるように見える。しかし、明快であることは正しいことと同じではない。組織の文化がAIを使って困難な思考を避け始めると、リーダーが統制の幻想を保ちながら判断を外部委託する静かな失敗モードを作り出す可能性がある。
効果的なAI戦略の構築方法
経営層にとって、最良の解決策は文化的かつ運用的であると私は考える。文化的には、懐疑主義を正常化する。運用的には、検証を英雄的行為ではなく習慣にする。AIが発達しているのであれば、リーダーシップは親であることを意味する。感傷的な意味ではなく、ガバナンスの意味においてである。
• 適切な段階に適切な仕事を割り当てる。
タスクが境界づけられ、成功基準が測定可能で、エラーの結果が低いか、フェイルセーフが含まれている場合にAIを使用する。医療では、文書作成支援、患者コミュニケーション下書き、運用トリアージ、収益サイクルワークフローなどから始める。金融サービスでは、社内知識検索、承認された言語での下書き作成、長文書の要約、管理された分析支援などの分野から始める。自律的な臨床意思決定や自律的な顧客アドバイスは避ける。それらは成人期のタスクであり、私の観察では、ほとんどのAI展開はまだ後期児童期にある。
• リスク階層に合わせたガードレールを構築する。
階層化されたモデルを作成する。低リスクの作業はより迅速で寛容にできる。中リスクは内部ポリシーと外部ソースへの引用を必要とすべきである。高リスクは人間によるレビューに加えて、ログ記録、モデル監視、エスカレーションプロトコルを必要とすべきである。これは官僚主義ではない。これはイノベーションを持続可能にする方法である。
• ワークフローに現実検証を組み込む。
ユーザーが検証を覚えていることに依存しない。検証をユーザーインターフェースとプロセスの一部にする。ポリシーステートメントにはソースリンクを要求する。信頼度ラベリングを要求する。入力が欠落している場合は不確実性フラグを要求する。監査のためにプロンプトと出力をログに記録する。医療と金融サービスの両方において、追跡可能でなければ、エンタープライズグレードではない。
戦略的命題
AIは私たちが構築した鏡である。それは私たちの知性と私たちの限界を反映する。ピアジェは、流暢な出力を成熟した認知と混同しないよう警告する。フロイトは、衝動には統制と現実検証が必要であることを思い出させる。ユングは、リーダーシップがそれを防がない限り、人間はブラックボックスを神託に変えることを思い出させる。医療または金融サービスを率いる場合、規制された環境内で発達する能力としてAIを扱うことを推奨する。規模よりもガバナンスを優先する。ワークフローに検証を組み込む。規律を持って成果を測定する。それが、回避可能なリスクを購入することなく、真のROIを得る方法である。
