AIが日常のワークフローに統合されるにつれて、リスクが急増している
Incogniの新しい報告書は、AIが「日常のワークフローにますます統合されるにつれて、不正なデータ共有、誤用、個人データ漏洩の可能性は、プライバシー監視団体や評価が追いつくよりも速いペースで急増している」と警告している。
SquareXは、その概念実証実験において、「ファイル共有ツールを見つけて登録するよう指示された」ブラウザーAIエージェントが、「OAuth攻撃に屈した」様子を示している。これにより、「無関係な許可、見慣れないブランド、不審なURLといった、ほとんどの従業員であれば許可するのをためらうであろう複数の疑わしい兆候があったにもかかわらず、悪意のあるアプリに対して、ユーザーの全メールに関する完全なアクセス権が与えられた」。
同様の手口で、クレジットカード情報、ファイル共有アプリへのアクセス、企業システムの認証情報、その他エージェントがアクセスできるあらゆるウェブベースのツールがハッキングされる可能性がある。このリスクは、エージェントがユーザーの認証とアクセス権を持って動作する点、またリスクを冒していないことを確認するための都度チェックが存在しない点、バックグラウンドで処理を進める点の3点に起因する。
ラマチャンドランが筆者に語ったように、「この攻撃がうまくいくのはふたつの核となる理由があるからです。第一に、サービスプロバイダーには、ユーザーに代わって実行されるブラウザーAIエージェントに対して、より詳細な制御を適用できるサブアイデンティティを作成する方法がありません」。これにより、すべてのブラウザーAIエージェントがユーザーと同じ権限レベルで実行され、実際のユーザーがアクセスできるすべての企業向けSaaSアプリ、データ、会社のリソースへのアクセスが可能になる。
第二の理由は、最も簡単にいうなら、「ブラウザーが、実際のユーザーによって実行されたアクションと、ブラウザーAIエージェントの自動化ワークフローの一部であるアクションとを区別できない点にあります」とラマチャンドランは言う。「これは、私たちがブラウザーAIエージェント自身にそうした攻撃を回避できるだけの知性があると信頼していることを意味しますが、実際のところこれらエージェントは平均的な従業員よりもセキュリティ意識が低いことから、それが真実でないことはすでに分かっているのです」。
解決策は、企業が「エージェントと従業員の双方がこれらの攻撃の餌食になるのを防ぐ、ブラウザーネイティブのガードレールを提供すること」だ。
しかし残念ながら、現時点では言うは易く行うは難しである。
