素人が悪意あるツールを作成可能に
サイバーセキュリティ研究者で、ハッキングカンファレンス「Black Hat」の審査委員を務めるダニエル・カスバートも、GPT-4は専門知識のない人でも悪意あるツールを作ることを可能にすると指摘している。「技術力がまったくなくても、GPT-4を使えば簡単にサイバー犯罪を実行できる」と彼はいう。OpenAI自身も、先にGPT-4と同時に発表した論文の中で、GPT-4がサイバー犯罪に利用される可能性を認めている。「GPT-4は、ソーシャルエンジニアリングや既存のセキュリティツールの強化などを通じてサイバー攻撃における特定のステップのコストを下げることができる」と同社は述べている。
しかし、OpenAIの論文によると、同社がGPT-4のリリース前テストのために採用したサイバーセキュリティの専門家は、次のように指摘したという。「サイバー犯罪の実行には大きな制限がある。GPT-4は偵察や脆弱性攻撃、ネットワークナビゲーションなどの既存ツールを強化することはなく、脆弱性検知のような複雑でハイレベルな活動では、既存のツールよりも効果が低い」
その一方で、彼らは、GPT4が巧妙なソーシャルエンジニアリングコンテンツの作成には有効であることを発見した。フォーブスは、Check Pointの研究チームがこれらの対策をすぐに回避できたことについてOpenAIにコメントを求めたが、回答を得ることはできなかった。
「OpenAIのモデルを悪用するのは簡単かもしれないが、決してこれまでなかった新たな犯罪手法を生み出しているわけではない」とカスバートは話す。優秀なハッカーであれば、AIの力を借りなくても、OpenAIと同じことを実行できると彼はいう。また、ChatGPTはインターネット上で過去のマルウェアの事例を学習して作成しているため、最新のセキュリティシステムであれば検知できるはずだという。
カスバートが最も期待しているのは、GPT-4がサイバー犯罪の防御に役立つことだという。GPT-4は、ソフトウェアのバグを検出しただけでなく、コードスニペットを提供してくれ、カスバートはそれをコピペして数秒でバグを修正できたという。「自動リファクタリングは非常に役に立つ。未来はクールだ」と彼は述べた。
（forbes.com 原文）
