3番目はAIアルゴリズムを直接攻撃するというものだ。専門家は、最近ではAIが運営する仮想通貨取引システムがハッキングされた事例があり、仮にハッカーがAIアルゴリズムの意思決定モデルを知っていれば、それを悪用して不正な決定を下すよう操作できると説明している。
セキュリティサミットでは、AIが意思決定を担うようになれば外部からの攻撃で誤った判断を下すリスクも高まるとし、重要な意思決定は人間が担当すべきと提言する。そもそもの精度という観点だけでなく、サイバー攻撃の可能性を考慮した際、「AIはあくまで人間の助手として活躍すべき」という指摘である。
今後もAIを取り巻くセキュリティ問題はいたちごっこを続けるはずだ。「ハッキングされないAI」や周辺技術もさることながら、リスクを前提とした上での人間の役割についても改めて熟考が必要となってくるだろう。
連載：AI通信「こんなとこにも人工知能」
過去記事はこちら>>
［Promotion］
▶特集： AI Business Transformation AIを経営の中枢へ ─「AI経営」
1. AIとヒトが補完し合うHRテックの理想形 新たな価値創造を目指すAGCの“人財”戦略
2. 【特別インタビュー】東京大学・松尾豊×AI & CO・野口竜司 データとAIのパワーを解き放ち、経営をアップデートせよ
▶PwC Japanグループ AI経営
