財務・人事・支払い業務で、AIにどこまで権限を与えるか
AIエージェントに財務・人事システムや支払い処理への権限を与えると、設定の見直し不足が事故につながり得る。企業が管理していないAI利用や、業務ツールとの連携も対策の対象だ。
（7）財務・人事システムで放置されるアクセス権
ベアテ・ファン・ロー＝ボーン（BvLB Advisory）は、経営トップになりすまして送金を求めるディープフェイクが大きく報じられる中、より深刻な危険は財務・人事部門の業務にあるとみる。財務・人事システムにつながるAIエージェントに1度与えたアクセス権が、その後まったく見直されない場合がある。管理体制の報告書に問題がないように見えても、AIエージェントに与えたアクセス権の一覧はほとんど把握されていない。攻撃者は人をだまさなくても、過大な権限を持つAIエージェントを1つ利用できればよいという。
（8）請求書の支払いまでAIに任せた場合の送金リスク
サビール・ネリパランバン（Tyler Petroleum Inc.）が警戒するのは、AIが書いた詐欺メールより、請求書の支払いまで任せたAIツールだ。偽の請求書を処理したり、振込先の銀行口座番号が書き換えられたりすると、担当者が気づく前に別の口座へ送金してしまう恐れがある。まずはAIによる支払いの上限を少額に設定し、振込先が変更された場合は人が確認するよう求める。
（9）企業が管理していない「シャドーAI」の利用
ティム・サリバン（Coevolve）は、AIによるサイバー攻撃より、企業が把握・管理していないAI利用「シャドーAI」を危険視する。従業員が社内の統制が整う前にAIを使い始めたり、利用規則を迂回したりすることがある。AIへの入力文、ファイルのアップロード、ブラウザーの拡張機能、外部サービスとデータをやり取りするAPIなどから企業情報が流出しかねない。
経営者が重視すべきなのは特殊な攻撃への警戒ではなく、AIの利用状況を可視化し、適切に管理することだ。AI導入を遅らせるのではなく、安全に進めるために、ネットワークやIT基盤の設計段階からセキュリティーを組み込む必要がある。利用実態が見えなければ管理もできないという。
（10）顧客管理やメールと連携するAIに過大な権限
スミット・クマール（Creative ideaz UK Ltd）は、AIがマルウェアを作る危険より、企業がAIアシスタントに許しているアクセス範囲を問題視する。顧客管理システム、メールの受信箱、プロジェクト管理ツールなどに常時アクセスできる設定を与えたまま、導入時から権限を見直していない場合がある。AI自身が攻撃を仕掛けなくても、過大な権限を与えられた連携機能が設定どおりに動くだけで危険が生じ得る。AIツールが実際にアクセスできる情報やシステムを監査すべきだという。
