AI

2023.03.27 12:30

ChatGPTで「誰でもサイバー犯罪者になれる」という厄介な現実

Shutterstock

対話型のAI(人工知能)ツール「ChatGPT」を手がけるOpenAIは3月14日、最新版の機械学習ソフトウェア「GPT-4」の提供を開始し、大きな話題をさらった。同社は、GPT-4でサイバー犯罪目的の利用を防ぐ施策をアピールしているが、ある研究チームによると、リリースから数日のうちに前バージョンと同様にマルウェアやフィッシングメールを作成させることができたという。一方で、彼らはGPT-4を使って、セキュリティホールを埋めることもできたという。

サイバーセキュリティ企業Check Pointの研究チームは、GPT-4へのリクエストから「マルウェア」という言葉を除くだけで、OpenAIがマルウェア作成を防ぐために設けた制約を回避できることを示して見せた。研究チームのリクエストに対し、GPT-4はPDFファイルを収集してリモートサーバーに送信するソフトウェアを作成したという。さらに、GPT-4はセキュリティソフトウェアに検知される可能性を低くするために、Windows 10搭載のPC上で動作し、ファイル容量を小さくする方法について、研究チームにアドバイスした。

研究チームは、GPT-4にフィッシングメールの作成を支援させるために、2つのアプローチをとった。1つは、悪意あるメッセージの作成リクエストをブロックしないGPT-3.5を用いて、正規の銀行を装ったフィッシングメールを作成し、GPT-4にそのメールを改善させるというものだ。GPT-4はフィッシングメールの作成は拒否したが、GPT-3.5が作成したメールの改良は行った。もう1つは、フィッシング詐欺を啓発する企業向けキャンペーンを実施する上でのアドバイスをGPT-4に求め、偽のフィッシングメールのテンプレート作成を依頼したところ、GPT-4はその要望に応えたという。

「GPT-4は、技術力のない悪人でも迅速に犯罪行為を行うことを可能にする。GPT-4は、善人と悪人の双方に役立つものだ」と、Check Pointの研究チームは報告書で述べている。

Check Pointの脅威インテリジェンスグループマネージャーであるSergey Shykevichによると、GPT-4は以前のバージョンに比べてフィッシングや悪意あるコードの生成を阻止する障壁が低くなっているという。彼は、プレミアムユーザーにアクセスを限定していることが要因だと推測しているが、それでも、OpenAIは研究チームのような手法を想定しておくべきだったと指摘する。「OpenAIはサイバー犯罪の予防と削減を試みていると思うが、これはいたちごっこだ」と彼は述べている。
次ページ > 素人が悪意あるツールを作成可能に

編集=上田裕資

タグ:

ForbesBrandVoice

人気記事