I cover crime, privacy and security in digital and physical forms.

Getty images

アラブ首長国連邦(UAE)で発生した大規模な詐欺事件で、AI(人工知能)による音声クローンが用いられたことが分かった。

UAEのある銀行の支店長は、2020年の初めに、聞き覚えのある声の男からの電話を受けた。電話の主は、以前に話したことがある会社の取締役で、彼は外部の会社を買収するために、資金を送金したいと依頼してきたのだった。その後、送金先が記載されたEメールを受け取った支店長は、それが本物の顧客からの指示だと信じて送金を行ったという。

しかし、これは、「ディープ・ボイス」と呼ばれるテクノロジーを利用した詐欺だったことが後日発覚した。フォーブスが入手した裁判資料によると、UAEはセンテニアル銀行の米国内の口座に振り込まれた40万ドル(約46億円)の資金を追跡するために、米国の捜査当局に協力を求めている。少なくとも17人から成る詐欺師集団は、奪い取った資金を世界中の銀行に送金した模様だ。

裁判資料に被害者の名前は記載されておらず、フォーブスはこの事件の捜査を担当するドバイ検察庁にコメントを求めたが、現時点で回答は得られていない。

ウォール・ストリート・ジャーナル(WSJ)によると、ディープ・ボイスを用いた詐欺事件は以前にも発生しており、2019年には英国のエネルギー会社のCEOになりすました詐欺師が、24万ドルを奪い取っていた。

英国のドーセット警察の元警察官で、現在はセキュリティ企業ESETでアナリストを務めるジェイク・ムーアは、「今後はさらに多くの企業が、ディープ・フェイクやディープ・ボイスなどの新たな攻撃の犠牲になる可能性がある」と語った。

かつては「ミッション:インポッシブル」のようなSF映画の中の出来事だった人間のボイスのクローングが、今では広く利用可能になっている。今では、ロンドンのAflorithmicやウクライナのRespeecher、カナダのResemble.AIなどのさまざまなスタートアップが、AIを用いたボイスの合成に取り組んでいる。

最近では、米国の有名シェフで人気司会者だったアンソニー・ボーデインが2018年に亡くなるまでの半生を描いたドキュメンタリー映画「Roadrunner: A Film About Anthony Bourdain」の製作者が、ディープ・ボイスで再現した本人の声を使用して、様々な批判を浴びている。

一方で、合成されたボイスを検出するテクノロジーで詐欺を防止するセキュリティ企業Pindropの評価額は、9億ドルに達している。今後はユーチューブなどに公開された音源からディープ・ボイスが作成され、それが詐欺犯罪に利用されるケースも増える可能性がある。

編集=上田裕資

PICK UP

あなたにおすすめ