スパムフィルターは何十年にもわたり、私たちの受信箱を守ってきた。だがいま、それがAIスパムに押されつつある。
2022年にChatGPTが登場する前、スパムフィルターは文法ミス、リンクのスペル違い、怪しい送信者ドメイン、全大文字のメール、表示名とメールアドレスの不一致といった「分かりやすい兆候」を手掛かりに、迷惑メールを検知してブロックしていた。
その間、GmailやOutlookなどのメールプロバイダーはスパム対策を非常にうまく機能させていたため、ほとんどの消費者はそれを意識することすらなかった。
ところが、大規模言語モデル（LLM）が登場し、それとともに「完璧なスパムメール」を作り出す能力も到来した。2025年6月に発表されたコロンビア大学工学部とBarracudaの共同研究によれば、2022年2月から2025年4月に検知されたスパムの51%はLLMによって書かれていた。
同時期に、多くのアカウントがプライバシーポリシーをひそかに更新し始めた。
2023年、Zoomはプライバシーポリシーに、「オプトアウト（拒否）の手段がないまま、顧客データをAIモデルのトレーニングに使用できる」ことを認める条項を追加した。
いま消費者は、スパムフィルターが守ってくれることや、休眠アカウントが安全なままであることに頼れない。AIによって、忘れ去られたアカウントから巧妙に作り込まれたマーケティングメールが送られ、侵害されたアカウントから説得力のあるフィッシング攻撃が行われるようになったうえ、1人あたりのアカウント数は増加の一途をたどっている。
利便性の爆発的拡大が攻撃対象領域を広げた
オンラインショッピングは2000年代初頭から着実に成長してきたが、コロナ禍の2019年に本格的に加速した。McKinseyの「State of the Consumer 2025」によれば、フードデリバリーが世界の外食支出に占める割合は2019年の9%から2024年には21%に上昇し、米国と中国の消費者の90%以上が直近1カ月にオンライン専業小売店で買い物をした。
ブランドにとって、これらの数字は驚異的だ。オンラインで買い物をする人が増えるということは、作成されるアカウントも増えることを意味し、新しいアカウントが生まれるたびに、ターゲティング、再販売、アップセルなどを通じて消費者に購入を促す新たな機会が生まれる。
しかし消費者にとっては、利便性が増すごとに潜在的な攻撃経路（アタックベクター）も増えることになる。
Yorbaの「2025 State of Clutter Report」によると、平均的なYorba会員はいま219のオンラインアカウントを持ち、144のメーリングリストから月に503通のマーケティングメールを受け取っている。
無害に見えるかもしれないが、消費者が作成するアカウントは1つ残らず攻撃対象領域を広げる。あなたのデータにアクセスできる企業は、第三者にそのデータを販売することも、データ侵害で偶発的に流出させてしまうことも、あるいは「ターゲットマーケティング」を装って販促メールを送るためにあなたの情報を利用することもできる。
行動に移すことの難しさ
消費者は問題があることを理解している。だが、目にしている事実と、それを踏まえて何をしたいのかの間には乖離がある。筆者の会社であるProsper Insights & Analyticsの最近の調査によれば、米国の成人の64.4%は、広告主が個人データにアクセスして広告をターゲティングすることを好まない。
約3分の2（64.2%）は、企業がデータを販売すること自体を禁じる法整備を望んでいる。消費者保護としては望ましいように思えるが、認識が必ずしも行動につながるとは限らない。
実際、米国の成人の4分の1（25.7%）は、自身のデジタルデータを守るために何1つしていない。行動を起こした人の中でも、最も一般的な手段である「モバイルアプリによる追跡を許可しない」を実行したのは43.9%にとどまった。
しかも、それらの行動がそのまま保護を意味するわけでもない。モバイルアプリ間での追跡を拒否すれば包括的なデータ収集を防げる可能性はあるが、多くの消費者が依然として200以上のアカウントをアクティブにしている現実には対処できない。
完璧さが危険になるとき
課題は、受信するメールの量だけではない。AI攻撃が行われる際の巧妙さである。AIがスパムフィルターのあらゆる言語テストをすり抜けるメールを生成できるなら、フィルターは無力化する。
実際のAmazonの注文に言及し、Amazonの文体とトーンを模倣し、パスワードのリセットを求めるメールは、正規のメールと見分けることがほぼ不可能だ。
YorbaのCTOであるDavid Schmuddeはこの傾向について次のように述べた。「私たちはいまAIの『無法地帯（Wild West）』にいる。解決策は提案されている。送信者にメール1通あたり数分の1セントを課すこと、人間に改ざん不可能な『ハートビート』識別子を付与することなどだ。しかし、実装に向けた実験をしている者はいない。これを本気で扱わない限り、問題は悪化する一方だと私は懸念している」
さらに、以前は説得力のあるフィッシングキャンペーンを作るのに相当なリソースを要した攻撃者が、いまでは数分で、完璧でパーソナライズされたメールを何百万通も生成できるようになっている。
火には火を
これらの攻撃を駆動しているのと同じ技術が、消費者と組織の双方にとって最良の防御策にもなりつつある。
IBMのデータによれば、セキュリティAIによる検知を用いる組織は、手作業プロセスに依存する組織よりも98日早く侵害を封じ込め、侵害1件あたり平均220万ドル（約3億3000万円）を節約した。
世界の侵害コストは5年ぶりに低下し、2024年には444万ドル（約6億6600万円）まで下がった。消費者レベルでも同様のパターンが見られる。
AI搭載のデジタル管理プラットフォームのアーリーアダプターは、アカウントの乱立とデジタル上の露出を減らしている。Yorbaの「2025 State of Clutter Report」によれば、アクティブユーザーは2024年から2026年にかけて、平均アカウント数を246から219へと減らした。
この不均衡に着目するプラットフォームもある。消費者向けプラットフォームで300以上のプロジェクトに携わってきたデジタルデザイン会社Rucaでは、チーフデザインオフィサーのNolan Cabejeがこの問題の両面を見てきた。
「今日のツールは、瞬時に何百万人ともコミュニケーションできる。しかし意味のあるつながりは、規模だけではなく意図から生まれる。自動化が進むほど、私たちがそれを慎重に使う責任も増す。つまり、文脈、影響、そして人々の注意を尊重するシステムを構築するということだ」
問題は、消費者がAIツールを十分な速さで導入するかどうかである。4分の1の消費者が基本的なプライバシー保護の手順すら踏んでいないのなら、大規模な侵害が事態を動かす前に、高度なAI搭載ツールに投資するだろうか。
利便性経済が逆行することは期待できない。消費者行動は摩擦のないオンライン体験へとシフトしており、その結果、アカウント数と攻撃経路は増え続ける。
反撃するためのツールは存在する。Yorbaのようなプラットフォームは、受信箱と支払い履歴をスキャンし、ほとんどの消費者が登録したことすら覚えていないアカウントを可視化する。利用規約がどれほど怪しいかに基づいてアカウントにプライバシー評価を付け、ワンクリックでアカウント削除を可能にする。削除が難しすぎるアカウントは、Yorbaの専任削除チームが手作業で対応する。
これは削減によるプライバシーである。アカウントが少なければ攻撃も減り、オンライン上のデータも減り、AI生成攻撃にさらされる表面積も小さくなる。しかし導入は脅威に追いつく必要がある。
開示：上記で参照した消費者意識調査は、筆者の会社であるProsper Insights & Analyticsが実施した。これは全米小売業協会（NRF）が使用しているのと同一のデータセットであり、経済ベンチマーク用途としてAmazon Web Services、Bloomberg、ロンドン証券取引所グループから入手可能である。
