AIのハルシネーション（幻覚）ばかりが注目されてきたことで、AIスクライブ（音声記録AI）モデルに潜む別の重大な問題が見過ごされてきた。アンビエントAIスクライブが日常の臨床ワークフローに浸透するにつれ、複数の独立した評価で最も多く報告されているエラーは、実は捏造された内容ではない。システムが「取りこぼした」情報である。
静かなる失敗モード
模擬外来診療を用いて2つのシステムを検証した詳細な評価では、研究者らは44件の下書きカルテから127件のエラーを確認した。1件あたり平均約3件のエラーであり、両製品ともに省略が最も大きな割合を占めた（一方のシステムでは全エラーの83％、もう一方では54％）。
医師と患者の会話の書き起こしデータに対してChatGPT-4を使用し、大規模言語モデル（LLM）が生成したSOAP（経過記録）カルテを評価した別の研究では、1症例あたり平均23.6件のエラーが報告され、そのうちの86％が省略であった。
商用のアンビエントプラットフォームでも、臨床文書化に適用された汎用モデルでも、より多く見られる失敗は「言われていないことを作り出す」ことではなく、「取りこぼす」ことである。省略は通常、既往歴、診察所見、投薬詳細、あるいは評価項目などに及ぶ。
省略を特に厄介にしているのは、それがどのように気づかれるか（あるいは気づかれないか）という点だ。ハルシネーションは目立ちやすい。言及されなかった薬や、話題に上らなかった診断名が書かれていれば、ページ上で浮き彫りになる。しかし省略の場合、臨床医は会話の内容を正確に記憶した上で、カルテに何が欠けているかに気づかなければならない。40人の患者を診終えたばかりの医師にとって、これは非常に大きな認知的負荷だ。そして、もしその欠落が見落とされれば、影響はその1回の診察にとどまらない。その後の通院、引き継ぎ、そして次の治療方針の決定に至るまで、患者に付きまとうことになる。
なぜ「省略」は見出し以上に重要なのか
実際の深刻度は臨床の文脈によって変化する。総合診療（プライマリケア）であれば、生活歴の詳細や副次的な訴えの抜け漏れがあっても、後から補うことができるかもしれない。しかし、専門外来、特に整形外科のような処置を伴う分野ではそうはいかない。具体的には、患側（左右どちらか）、特殊検査の正確な記述、関節可動域の測定結果、処置の詳細、そして明確な再診計画などだ。これらは臨床的意思決定、コーディング（診療報酬請求の分類）の正確性、そしてケアの継続性に影響を与える。
アンビエントシステムがこれらの要素を取りこぼした場合、医師には2つの選択肢しか残されない。記憶を頼りに欠落部分を再構築するか、カルテを不完全なままにしておくかである。いずれも患者の安全を脅かしうるものであり、臨床現場にアンビエントAIを導入するという理念そのものに反する。
最近の評価で確認された残存エラーの大半は、カルテが適切に見直されれば軽度から中等度の重症度に収まる。適切な監督下では、アンビエントAIはシステムとして危険というわけではない。しかしこの知見は、臨床医によるレビューの重要性をむしろ高めるものである。
専門領域の文脈が前提を変える
幅広い医療会話で訓練された汎用モデルは、専門診療における構造化された言語や予測可能なリズムに対応することが難しい傾向がある。たとえば、症例数の多い整形外科クリニックは、典型的な総合診療とは異なるテンポと文書密度で動いている。基盤となるモデルが、専門領域に特化した医師の修正を長年にわたって反映していなければ、その領域で重要な詳細の欠落率は上昇しやすい。
現在のシステムが何をでき、何をまだできないかについて現実的な姿勢を保つことが、投資から価値を引き出すための安全策となる。アンビエント文書化を純粋なソフトウェアの問題として扱う企業や医療システム、すなわち導入し、修正を最小化し、時間削減だけを測定する組織は、その限界を厳しい形で知る可能性が高い。これをワークフロー、学習データ、臨床医の監督の問題として扱う組織のほうが、残存リスクを管理しながら、持続的な価値を引き出しやすい。
リーダーのための実践的ガードレール
アンビエントAIの評価や拡張を検討する医療システムや診療所のリーダーは、一つの率直な前提から始めるべきである。ゼロエラーのカルテは近い将来の現実的な目標ではない、ということだ。編集不要の完璧さを目指すのではなく、構造化されたレビューを要する信頼できる下書きを前提に設計すべきである。当日中またはほぼリアルタイムのレビューは、診療の記憶が新鮮なうちに、何が欠けていたかを臨床医が思い出せる能力を保持する。
本当に重要なものを測定すること。文書化時間や医師の満足度だけでは全体像は見えない。残存エラー率を種類別、特に省略について追跡し、臨床医による実質的なレビューを経ずにクリニックを離れるカルテの割合を注視する。個人間で編集行動に大きなばらつきがある場合、それは通常、レビュープロセス自体を標準化する必要があるサインである。
ベンダーを評価する際には、学習データがどのように構築されたか、そして医師の修正がどのようにモデルにフィードバックされるかを具体的に問うべきだ。専門領域固有の言語パターン、文書構造、請求上の細部が反映されることで、最も重大な省略の発生量は減る。汎用モデルではその差を短期間で埋めることはできない。
最後に
アンビエントAIスクライブは、すでに事務負担の実質的な軽減と、臨床医の体験における測定可能な向上を実現している。しかしそれが持続的なものとなるかは、業界が文書化精度を「解決済みの問題」として扱うのをやめ、残存エラー、とりわけ省略という静かな失敗を、能動的に管理すべき設計上の制約として扱い始めるかにかかっている。臨床記録に対する最終権限は、依然として医師にある。テクノロジーと臨床監督の適切なバランスをとることこそ、スケールする生産性ツールとなるか、静かに新たなリスクを生み出すツールとなるかの分かれ道である。
