テクノロジー

2026.05.24 12:00

ChatGPTは領収書を偽造できるが、自らの偽造を見抜くことはできない

stock.adobe.com

AIインペインティングは「継ぎ目」を残さず、既存ツールの手がかりが消える

従来の文書偽造は、基本的に切り貼りである。そのためノイズの違い、圧縮履歴、局所的な画像構造の乱れといった「継ぎ目」が残りやすく、フォレンジックツールはまさにそれを見つけるよう設計されてきた。AIインペインティングはこれとは仕組みが異なる。周囲の画像と統計的に整合する新たなピクセルをまるごと生成するため、既存ツールが手がかりにしてきた不連続点の多くが消えてしまうのだ。

advertisement

OpenAIの安全フィルターは、文書編集要求の約10パーセントしかブロックできない

研究チームのテストでは、OpenAIの安全フィルターが文書編集要求の約10パーセントをブロックした。しかしブロックされた要求の多くは、表現を少し変えるだけで通すことができた。さらに、フィルターを通過した要求から作られた偽造は、テストしたいずれの検出ツールでも確実には検知できなかった。簡単に回避できる程度のささやかな拒否率では、攻撃者をわずかに足止めできるだけで、止めることはできない。

文書偽造の経済性が一夜にして変わり、誰でもスマホで作れる

文書偽造の経済性は、ほぼ一夜にして変わってしまった。かつては説得力のある偽造を作るのに、技術と時間と専用ソフトウェアが必要だった。それが今や、市販のスマートフォンやノートパソコンさえあれば誰でもできてしまう。フォレンジック実務において、専門家が文書の真正性を判定するために頼ってきた多くの手がかり──局所的な圧縮の不整合、ピクセルの継ぎ目、その他の典型的な改ざん痕跡──は、AIインペインティングを使われた場合、著しく弱まるか、完全に消失してしまう。

目視では不十分、ソースシステム照合から技術鑑定まで踏み込む

目視による検査では、もはや十分ではない。第1段階としてより有効なのは、文書を元のソースシステムと突き合わせて検証することである。誰かが領収書を提出してきたら、画像そのものを信用するのではなく、実際のPOS(販売時点情報管理)システムの取引記録と照合するべきなのだ。

advertisement

C2PA(コンテンツの来歴を証明する標準規格)のような来歴標準は有用だが、それだけで解決できるわけではない。画像の出所は示せても、来歴情報が欠落していたり、削除されていたり、争いの的になっていたりする最も難しいケースには対処できないからである。

企業が必要としているのは、包括的な対策だ。受領時点での1次スクリーニング、ソースシステムとの突き合わせによる検証、そして利害が大きい案件や法廷闘争に発展しそうな紛争では、元のスマートフォン、カメラ、記憶媒体そのものを精査する技術鑑定にまで踏み込める能力を揃える必要がある。デジタル文書への信頼は、単一の検出ツールやモデル、来歴標準だけからではなく、こうした「端から端まで」(エンドツーエンド)の総合的な対応力によってこそ生まれるのだ。

forbes.com 原文

翻訳=酒匂寛

タグ:

advertisement

ForbesBrandVoice

人気記事