ファネルの中流では、人間が介入する。AIモデルがフラグを立てた案件について、アジャスター（保険査定専門家）、不正対策部門のスタッフ、審査を行う臨床医が判断を下す。自動化されたツールよりは時間がかかるものの、デジタルフォレンジック調査よりは迅速で安価だ。この段階で、フラグの立った案件が詳細な調査の対象とするに値するかどうかを決定する。
ファネルの最下流では、訴訟に相当するほど深刻な請求とみなされたごく一部のファイルに対し、専門家によるデジタルフォレンジック、デバイスレベルの分析、証拠能力のある証拠の収集が行われる。これが唯一、証拠を提示する階層となる。
これらの階層を1つでも省略したならば、審査システムは機能しなくなる。AIによる検出をなくせば、処理量が多くなりすぎて人間の目視審査がパンクする。人間による審査を除外すれば、AIによる誤検知の中に正当な医療請求が埋もれてしまう。フォレンジック分析をやめれば、係争対象のファイルが法廷での精査に耐えられなくなる。
真のリスクは「証拠」の意味を忘れること
医療請求業界は、AI検出ツールを導入するだろう。ベンダーがそれらを販売し、コンプライアンスチームは承認し、まもなくファネルの最上流で稼働し始めるはずだ。
指摘すべきリスクは、検出スコアが証拠として扱われるようになることだ。AIモデルの判定率に基づいてファイルが却下される。AIモデルが特定の組み合わせを認識しなかったために、正当な請求の処理が遅れる。実際の患者のカルテに対して自動化ツールが不審な判定をしたために訴訟沙汰となり、和解にこぎつける。こういった事態が起こり得る。
AI検出は、どこを調べるべきかを教えてくれる。しかし、何が真実かを教えてはくれない。医療記録が本物かどうかの真の証拠は、デバイスレベルのデジタルフォレンジック分析からしか得られないのである。
『Radiology』に掲載された研究論文が取り上げたディープフェイクX線画像は、前兆にすぎない。同じ手法が、医療請求処理のプロセスに係るあらゆるファイル形式に広がりかねない。
医療請求詐欺を防ぐ審査システムには、今後も人間が組み込まれているべきであり、法廷でファイルについて弁護する必要が生じた際には、デジタルフォレンジック調査能力を実際に駆使できなければならない。確率だけでは、反対尋問に耐えられない。それを忘れた場合は、痛い目を見て学ぶことになるだろう。
