グーグルはGmailをアップグレードし、Geminiの利用対象をより大規模なユーザーに広げた。その一方で同社は、この種のAI機能の強化が、高度な新たな攻撃にとって「進化し続ける実験場」を開くことになると警告している。Geminiは今や、ユーザーとメールの間に入り込む存在になった。これは大きな利便性をもたらす可能性があるが、同時に受信トレイを新たな攻撃対象にも変える。
Gmail検索の『AIによる概要』が、要点を簡潔にまとめた概要を作成
グーグルによると、Gmailユーザーは「情報過多を乗り越え、最も重要なことを把握できます」という。同社は「Gmail検索の『AIによる概要』は、情報を掘り起こす手間をかけずに、情報を答えに変えます」と説明している。簡単に言えば、ユーザーが情報を検索すると、「Geminiが複数のメールスレッドを統合し、要点を簡潔にまとめた概要を作成する」ということだ。
間接プロンプトインジェクションは、進化を続ける脅威
この発表は米国時間4月22日に行われた。だがグーグルはそれ以前の4月2日には、「間接プロンプトインジェクション（IPI、indirect prompt injection）は、Geminiを組み込んだWorkspaceのような、複数のデータソースを利用する複雑なAIアプリケーションのユーザーを狙う、進化中の攻撃経路です」と警告していた。IPIは、大規模言語モデル（LLM）の「動作に影響を与え」、攻撃を実行させるために使われる。ただし、それだけでなく、ユーザー自身の行動に影響を与える目的でも使われ得る。
メールに埋め込まれた隠しプロンプトが、『AIによる概要』に影響を与える
たとえば、受信トレイの『AIによる概要』に、リンクのクリック、ソフトウェアのインストール、あるいは取引の承認を促す指示が含まれている場面を想像してほしい。これらは、ユーザーが自分で実際に読んだ指示ではない。メールに埋め込まれた隠しプロンプトであり、要約を生成するAIに影響を与え、その結果としてユーザーが次に取る行動にも影響を及ぼすよう設計されたものだ。
グーグルは「IPIは、一度『解決』して終わりにできるような技術的問題ではありません」と述べている。同社によれば、これは「敵対的攻撃にとって、極めて動的で進化し続ける実験場」であり、グーグルは現在、「こうした攻撃に対して高度かつ包括的なアプローチ」を取り、「IPI攻撃に対するLLMの耐性を継続的に高めている」という。
『AIによる概要』は、エンタープライズの文脈で重要性を増していく
グーグル自身が公開した新しい『AIによる概要』のスクリーンショットには、Geminiがユーザーに直接示した「8件のToDo」が含まれていた。『AIによる概要』はすでに個人ユーザー向けに提供されているが、企業で使われるようになると、その意味はさらに大きくなる。
Gmailの『AIによる概要』は、『スマート機能』と『Google Workspace のスマート機能』が必要
Chrome Unboxedによれば、「これらの『AIによる概要』を表示するには、ユーザー本人または管理者が、設定でGmailの『スマート機能』と『Google Workspace のスマート機能』を有効にしている必要があります。いったん有効にすると、Gmailの検索バーは単なる基本的な絞り込み機能を大きく超え、ユーザー自身と同じくらい受信トレイを理解する調査員のような存在になります」という。
グーグルは「最新の間接プロンプトインジェクション攻撃の先を行くことは、Geminiを組み込んだWorkspaceを安全に保つという当社の使命にとって極めて重要です」と述べている。しかし、この問題は簡単に「解決」できるものではない。GeminiがGmailとWorkspace全体に、家庭でも職場でも、より深く組み込まれていくにつれて、リスクは残り続ける。
