目を凝らしても解決しない理由
経理部門は長年、常識的なレビューに頼ってきた。領収書はそれらしく見えるか。日付は妥当か。合計は明細と一致しているか。このアプローチは、合成文書が真正性を示す視覚的手がかりを模倣するようになると、機能しにくくなる。「本物に見えるかどうかというテストは、ほぼ終わった」とバーマは言う。
AppZenは、偽の飲食店レシートについて、スキャナーの透かしと手書き署名を偽造して加え、より信頼できるように見せたケースを挙げた。狙いは、領収書をいったん署名された文書のように見せ、人気の文書スキャンアプリでスキャンされたかのように装うことだったとみられる。別のケースでは、偽文書がAT&TとXfinityの請求書として捏造されていた。これは問題が、単発の経費申請から、携帯電話やインターネット料金のような毎月の継続課金へと広がっていることを示唆する。
デジタルな来歴情報（プロベナンス）は助けになるが、万能薬ではない。OpenAIは、自社ツールで作成された画像に、画像の出所や生成方法を記録するメタデータを埋め込んでいる。AppZenのいくつかのケースでは、このデジタル記録が、文書がAIで生成されたことの明確な証拠を調査担当者に提供した。しかしメタデータは、ファイルが編集・圧縮されたり、メタデータを除去するソフトウェアで処理されたりすると消えることがある。
最近の領収書フォレンジック（科学捜査）に関する研究では、人がAI生成領収書の視覚的な欠陥を見抜ける場合もあることが示された。しかし、最も強い警戒サインの多くは視覚的なものではない。不一致な項目、合計の不備、誤った税額、その他の計算ミスといった形で現れる。鍵となる手がかりは、画像ではなく数字にあるのかもしれない。
不正に対するより良い統制の構築
企業にとっての第1の教訓は、文書をレビューするだけではもはや不十分だという点である。企業は、画像の背後にある取引そのものを検証する必要がある。すなわち、領収書をカードの記録、加盟店情報、出張の詳細、従業員の過去の申請パターンと照合することだ。
第2に、企業は自動承認の閾値を見直すべきである。スピードは重要だが、閾値は悪用のための予測可能な抜け道もつくる。少額申請が自動的に承認される場合でも、企業はサンプリングを行い、不正の手口が現れるのに応じてレビュー規則を更新すべきだ。
第3に、企業のリーダーは、文書が本物であることを示す単一のサインに依存してはならない。AI生成画像の中には、生成方法を特定する隠れた情報を含むものもあるが、その情報はファイルの編集や変換の過程で消え得る。最良の防御は、1つのシグナルに頼るのではなく、複数のチェックを組み合わせることにある。
最後に、企業は少額の不正申請を取るに足らないものとして退けるべきではない。32ドルの偽領収書1件は、それ自体では大した問題に見えないかもしれない。しかし、何百人もの従業員が「少額なら問われにくい」と結論づければ、損失は積み上がり、企業の統制は信頼性を失い始める。リモート化と自動化が進む職場では、この種の行動が、誰かがパターンに気づく前に静かに広がり得る。
信頼の新たな経済学
偽領収書ブームは、AI詐欺の話題として最大のものではない。だが、不正経費は、AIが周辺（マージン）で行動をどう変えるかを示す点で重要である。ツールが無料で、即時で、説得力があると、文書を偽造しようなどと思わなかった人の一部が試してみようとする。経済学はインセンティブが重要だと教えるが、AIは領収書という証拠をめぐるインセンティブ構造を変えてしまった。
企業は処理コストを下げるために、財務ワークフローの自動化に何年も費やしてきた。精算は速くなり、監査はより選別的になった。それらは合理的な効率化の成果だった。だが今、その摩擦の低下そのものが、欺瞞のための隙を生んでいる。
不正防止の未来は、目視テストを減らし、現実を複数の角度から検証するシステムを増やす方向に向かう。企業は、AIが生み出し得る成果物を監査するためにAIを必要とするだろう。同時に、無作為抽出によるレビューや、規則違反に対する明確な帰結といった、旧来型の統制も必要になる。
領収書や請求書は、それ自体を証明として扱えなくなった。取引が実際に起きたことを示す他の証拠と突き合わせて確認すべき記録にすぎない。最大の変化は制度的なものだ。AIは、企業に「証明」とは何かを再考させている。
