サイバーセキュリティ企業Check Pointの研究チームは、GPT-4へのリクエストから「マルウェア」という言葉を除くだけで、OpenAIがマルウェア作成を防ぐために設けた制約を回避できることを示して見せた。研究チームのリクエストに対し、GPT-4はPDFファイルを収集してリモートサーバーに送信するソフトウェアを作成したという。さらに、GPT-4はセキュリティソフトウェアに検知される可能性を低くするために、Windows 10搭載のPC上で動作し、ファイル容量を小さくする方法について、研究チームにアドバイスした。
研究チームは、GPT-4にフィッシングメールの作成を支援させるために、2つのアプローチをとった。1つは、悪意あるメッセージの作成リクエストをブロックしないGPT-3.5を用いて、正規の銀行を装ったフィッシングメールを作成し、GPT-4にそのメールを改善させるというものだ。GPT-4はフィッシングメールの作成は拒否したが、GPT-3.5が作成したメールの改良は行った。もう1つは、フィッシング詐欺を啓発する企業向けキャンペーンを実施する上でのアドバイスをGPT-4に求め、偽のフィッシングメールのテンプレート作成を依頼したところ、GPT-4はその要望に応えたという。
「GPT-4は、技術力のない悪人でも迅速に犯罪行為を行うことを可能にする。GPT-4は、善人と悪人の双方に役立つものだ」と、Check Pointの研究チームは報告書で述べている。
Check Pointの脅威インテリジェンスグループマネージャーであるSergey Shykevichによると、GPT-4は以前のバージョンに比べてフィッシングや悪意あるコードの生成を阻止する障壁が低くなっているという。彼は、プレミアムユーザーにアクセスを限定していることが要因だと推測しているが、それでも、OpenAIは研究チームのような手法を想定しておくべきだったと指摘する。「OpenAIはサイバー犯罪の予防と削減を試みていると思うが、これはいたちごっこだ」と彼は述べている。
