人工知能（AI）の能力が高まるにつれ、AIを使ったサイバー攻撃、制御を離れたAIエージェント、さらには人類への脅威まで、刺激的な見出しが増えている。AIは企業に新たな機会をもたらすと同時に、現実のセキュリティー上の懸念も生む。ただし、最も衝撃的な事態が、企業にとって最優先で対処すべきリスクとは限らない。
注目を集める脅威と、早急な対応が必要な弱点を区別すれば、経営者はサイバーセキュリティー対策の優先順位をより適切に決められる。有料会員制の経営者組織Forbes Business Councilの会員18人が、企業で見過ごされがちなAI関連のリスクを挙げ、重視すべき対策を語った。
AIで巧妙化する従来のサイバー攻撃と、企業内のAI利用に潜む危険
AIが攻撃者による詐欺や情報窃取を容易にするだけでなく、企業が自ら導入したAIの扱いにも危険が潜む。顧客対応、機密情報の取り扱い、本人確認など、注意すべき場面は幅広い。
（1）AIが従来のフィッシングや認証情報の窃取を加速させる
マット・カリーナ（TransUnion）は、悪意ある入力でAIの動作を誘導するプロンプトインジェクション攻撃や、AIを使ったマルウェアばかりが注目されていると指摘する。実際に成功するサイバー攻撃は、偽メールなどで情報を盗むフィッシング、認証情報の窃取、人をだまして情報を得るソーシャルエンジニアリングといった従来の手口に依存している。AIがもたらす本当の変化は、従来の攻撃をより速く、容易にし、発見も難しくすることだ。企業は本人確認や認証情報の保護、アクセス制御の強化、従業員の意識向上など、実務的な対策に注力すべきだという。
（2）社内システムを操作するAIエージェントに過大な権限
イゴール・トルノフ（Ventora）は、AIが作るフィッシングメールへの警戒ばかりが強まり、社内システムに過大な権限を持つAIエージェントの危険が過小評価されていると考える。機密データの読み取り、記録の変更、メッセージの自動送信まで許されたAIエージェントでは、たった1つのミスが重大なセキュリティー事故につながりかねない。業務に必要な最小限の権限だけを与え、人の承認が必要になる基準を決め、AIエージェントが実際に何をしているか監視すべきだという。
（3）顧客に対するAIの約束を誰も確認していない
スネハル・ニムジェ（Outdoo AI）は、AIを通じた情報流出だけでなく、AIが顧客に対して企業の名で何を約束するかにも注意を促す。顧客対応部門では、AIが価格を提示し、保証の範囲を確認し、企業を代表して約束することがある。顧客とのやり取りを後から誰も確認しなければ、情報漏えいの報告も警報もないまま、自社が何に合意したのかを後になって知る恐れがある。
（4）従業員がAIを機密情報や業務システムにつなぐ
アバイ・アディティヤ・ジャイン（Lindy Panels）は、AIを駆使する高度な外部攻撃者への懸念が先行し、社内でAIツールに与えるアクセス権への注意が足りないと語る。自身の組織で最も心配しているのは、悪意のない従業員が大規模言語モデル（LLM）の能力や限界を十分に理解せず、機密データや業務システムに接続してしまうことだ。
（5）AIに関わる事故で大量の機密情報が流出する危険
エカテリーナ・ベリャンコワ（WALLACE s.r.o）は、AIが有害な内容を作る危険に注目が集まりすぎていると指摘する。より懸念するのは、システム障害やセキュリティー侵害による大量の機密データの流出だ。企業が異変に気づく前に、AIに関わるたった1件の事故が大規模なデータ流出へ発展する可能性があるという。
（6）偽造音声と巧妙なメールで本人確認が難しくなる
マリー・ホリーブ（Proteus International）は、未来的なAI攻撃より、AIを使って人をだます手口に警戒すべきだと指摘する。ディープフェイク、複製した声、相手に合わせて作り込んだフィッシングメールは、詐欺をさらに見抜きにくくする。聞き慣れた声や見覚えのあるメッセージだけで本人と信じず、危険性の高い操作では別の手段で本人確認をすることが重要だ。自身も、偽の取締役就任話を持ちかける、簡単には偽物と見抜けない巧妙なメールを受け取ったという。
