サイバー犯罪者は、オープンAIのチャットボットChatGPTを使用して、ごく短期間でハッキングツールを作成しているとセキュリティ研究者が警告した。詐欺師たちはこのツールを用いて若い女性になりすますボットを構築する場合もあるという。
昨年11月末にリリースされたChatGPTが、ランサムウェアの作成に用いられる可能性は、以前から指摘されていたが、イスラエルのセキュリティ企業「チェック・ポイント」の報告によると、アンダーグラウンドの犯罪者向けフォーラムでその事実が確認された。同社によると、以前Android向けマルウェアを公開していたハッカーが、ChatGPTを用いて生成した、特定のファイルを盗み、圧縮してウェブ上に送信するためのコードをフォーラムで披露しているという。さらに、コンピュータにバックドアを設置し、感染したPCにさらなるマルウェアを送り込むツールも紹介されている。
同じフォーラムで、別のユーザーはファイルを暗号化するためのPythonコードを共有し、OpenAIのアプリがその生成を手助けしてくれたと述べている。チェック・ポイントによると、このようなコードは、他人のマシンを暗号化するためのツールに簡単に改造が可能だという。そのフォーラムには、ハッキングされた企業のサーバへのアクセスや盗まれたデータを販売するユーザーが居たとされる。
また、別のユーザは、シルクロードやAlphabayといったドラッグの闇市場のようなマーケットプレイスの機能をChatGPTでコード化し、悪用することを検討している。そのユーザーは、架空の決済システムのために暗号通貨の価格をモニタリングするためのアプリをチャットボットで素早く構築する方法などを開示している。
サイバーインテリジェンス企業Hold Securityの創業者のアレックス・ホールデンは、ロマンス詐欺を行う犯罪者らが説得力のあるペルソナを作るためにChatGPTの利用を開始したと述べている。「彼らは、若い女性になりすますチャットボットで男性をおびきよせ、自動化された会話に引き込んでいる」と彼は指摘した。
フォーブスは、オープンAIにコメントを求めたが、現時点で回答は得られていない。
