とくにAIを利用した標的型攻撃、ソーシャルエンジニアリング、なりすまし攻撃が、もっとも差し迫った脅威だと警告しています。これらは、バックエンドシステムやデータ解析などの研究者やアナリストが直接観測できない方法でAIが使われるとのことです。
現在、AIが生成したコンテンツは、ソーシャルエンジニアリング、つまり技術的にではなく人の心理や行動の裏をかくなどして情報を盗み出す手法に利用されていますが、今後は、攻撃作戦の指揮、攻撃手順の実行、マルウェアの制御など直接的なサイバー攻撃を行うAI技術が発達すると見られています。高度なサイバー攻撃が、AIによって自律的に展開されるというわけです。こうした技術は、今後5年以内に十分な資金と高度な技術を持つ国家レベルの攻撃グループによって開発され、その一部が一般の攻撃者の手に渡り世界に広まると、ウィズセキュアのインテリジェンスリサーチャー、アンディ・パテル氏は話しています。
一般的なAIアプリケーション開発にくらべて、セキュリティーは投資も進歩も劣っているため、最終的には攻撃者が優位に立つとパテル氏は言います。また、正当な企業や開発者は、プライバシー規制や法律に準拠していますが、「攻撃者は、規制や法なんて守らないことを忘れてはいけない」と警告しています。
「安全で信頼性の高い倫理的なAIベースのテクノロジーの開発を期待するのであれば、AIを利用したサイバー脅威との関係で自分たちのビジョンを確立する方法」の検討が必要だとパテル氏は提言しています。
