メール利用者は、AIによる攻撃やハッキングが今年急増し、検知がいっそう困難になるとすでに警告されてきた。これには恐ろしいレベルのディープフェイクが含まれるだけでなく、AIがほぼ独立して「攻撃を実行する」ことで、多くの攻撃者がさらに多くの攻撃を仕かけられるようになる。これは長らく悪夢のシナリオとして懸念されてきたが、突然それが現実となり、何百万もの人々を危険にさらしている。
このことは認識していたものの、実際に目の当たりにするとその衝撃は大きい。今回公開されたシマンテックの新たな動画とブログでは、AIエージェント（または「オペレーター」）がフィッシング攻撃をどのように実行するかが示されている。担当チームは「エージェントはより多くの機能を持ち、ウェブページとの対話などのタスクを実際に行えます。通常は日常的な作業を自動化するための正当なユースケースが想定されていますが、攻撃者がそれを悪用すれば、インフラの構築や攻撃の実行にも使える可能性があります」と述べている。
シマンテックのセキュリティチームは以前から「既存の大規模言語モデル（LLM）AIは、すでに攻撃者に利用されているものの、主に受動的で、フィッシング文面やコードの作成などを支援するにとどまっています。しかし、いずれエージェントがLLMに追加されてAIがより強力となり、それにともなってリスクが増大するでしょう」と警告していた。
そして今、概念的な実証例が示された。まだ初歩的ではあるが、急速に高度化する恐れがある。AIエージェントがインターネットやLinkedIn（リンクトイン）を巡って標的のメールアドレスを探し出し、悪意あるスクリプト作成のためのウェブ上のアドバイスを参照し、独自にフィッシング用の誘導文を生成する様子は、われわれすべてにとって脅威に感じられるはずだ。この先どれほど進むのか、限界は見えない。
シマンテックのディック・オブライエンは「私たちはしばらく前から攻撃者によるAIの使用を監視してきました。すでに一部の攻撃者はAIを使っているとわかっていましたが、AIエージェントの登場により、AI支援攻撃が本格的な脅威になる瞬間が訪れると予測していたのです。エージェントはただテキストやコードを生成するだけでなく、実際に行動できるため受動的とはいえません。今回の目的は、最初のプロンプトを与える以外は我々が介入せずに、エージェントが攻撃の最初から最後まで実行できるかを確かめることでした」と語っている。
