AIはサイバーセキュリティの観点から多くの懸念を引き起こしている。自律型エージェントが独自の方法でシステムを攻撃することを考案する可能性は恐ろしいものだ。
それでも、同じテクノロジーが防御側にも恩恵をもたらしているという証拠がある。Sapio Researchによる調査結果を示したTechNewsWorldの記事によると、調査対象のサイバーセキュリティ意思決定者の97%がAIを活用したサイバーセキュリティソリューションを使用している、または使用を計画していると回答している。
AIを「サイバーセキュリティのフォースマルチプライヤー（戦力増強剤）」とする考え方は、Imagination in Actionイベントのセグメントでも取り上げられた。そこではグーグルのエンジニア、アユシュ・カンデルワル氏がグーグルのセキュリティエンジニアリング担当バイスプレジデントであるヘザー・アドキンス氏に、2025年におけるインターネット接続ネットワーク保護の方法と手段について聞いた。
今後の戦略を考える上で、アドキンス氏はサンドボックス化などの戦術が、今後予想されるAIハッキングを事前に防ぐ有効な方法であると指摘した。また、セキュリティの専門家は常に多様な対応が求められてきたとも述べている。
「私たちは非決定論的な状況にかなり慣れています。なぜなら、ハッカーは通常かなり非決定論的だからです」と彼女は言う。「彼らが何をするか予測することは非常に難しく、そのため私たちは彼らの立場に自分を置くことに慣れています。しかし、私たちが使用するツールについては、可能な限り決定論的であることを望んでいるのも事実です。そのため、特定のアプリケーションで大規模言語モデルを使い始める際に考慮することの一つが制約です。私たちはそのモデルが行うことを制約できるようにしたいのです」
人間のブラックハットがAIに代わりに攻撃を依頼できる「バイブハッキング」についての質問に対し、アドキンス氏は近い将来、状況が変わることを認めた。
今、すべてが変化しており、この分野全体が静かな革命を遂げている。
誰が電話をかけているのか？
AIがディープフェイクやスピアフィッシングキャンペーンを強化する方法について議論する中で、アドキンス氏はこの脅威ベクトルがどのように機能するかを説明した。
「私の仮説では、ディープフェイクとデジタルアイデンティティを作成する能力は、実際には人間同士をより近づけるでしょう」と彼女は言う。「あなたの名前を知っていること、あなたが誰であるかを知っていること、あなたが本当に私の銀行員であることが本当に重要な場合、私たちはおそらく人間レベルでの何らかのつながりを求めるでしょう。これは詐欺でもすでに見られています。人々は電話をかけて『お母さん、本当に今電話したの？確認させて』とか『お母さんの声に聞こえる。お母さん、私の16歳の誕生日に何をしたっけ？』と言います。『もし彼女が答えを知っているなら、おそらく本当にお母さんだ』というわけです。このような本能は、自然な防御として時間の経過とともに自然に構築されていくと思います」
彼女によれば、これらの一部はすでに起きており、おそらく予防的に行われているという。
「世界の一部の地域では、もはやインターネット上のものを信じる人はいません」と彼女は言う。「彼らはすべてを疑問視します。すべてのニュース記事、すべての写真を。だから、アスリートによる素晴らしい偉業についても『それは本物じゃない』と言います。アスリートとしては、それは本当にひどい気分でしょう。なぜなら、それは本物だったかもしれないからです。しかし、私たちはますます疑問を持ち始めると思います」
さらに、アドキンス氏は「デッドインターネット理論」と呼ばれるものに言及した。これはAgora Roadフォーラムに帰属するもので、現在のワールドワイドウェブ上の自動化されたコンテンツやアクティビティをすべて説明する方法として浮上したものだ。
ネットの防衛者たち
しかし、彼女はバックストップとして「自己防衛システム」についても説明した。これは例えば、C+ハードニングのような戦術を使用し、ハッカーを阻止するためにリアルタイムで動的に進化する可能性がある。
「私たちが今向かっていると考えているのは、セキュリティエンジニアの仕事が機械を訓練することになる方向です...システムが自己防衛するような状態です」と彼女は言う。「セキュリティ担当者はガイドやオーケストレーターとなり、ビジネスコンテキストを持ってビジネスのための決定を下します。そのため、これまで非常に退屈で骨の折れる仕事と考えられていたものから、実際には機械が正しい決断を下すのを支援する仕事へと変わるのです」
これが2025年におけるサイバーセキュリティの姿についての一部だ。アドキンス氏が指摘したように、私たちは大きな課題を抱えているが、同時に大きな機会も持っている。これはスタンフォードのイベントでの最も興味深い議論の一つだったと思う。そこではAIに近い多くの人々が集まり、今後数年間のソリューションを見出そうとしていた。今後の展開にご期待ください。
