advertisement
ゲーム100本以上、コマーシャル数十本に出演してきたクラークは当初、この動画をジョークとして受け止めた。だが次第に、もし動画がクライアントの目に留まって、自分が制作に協力したと思われたら──と不安に駆られるようになった。
クラークは、フォーブスに共有したElevenLabs宛て電子メールで「もし私たち（声優）が（このようなことを）言ったと思われたら、大変な問題になる可能性があります。それだけでなく、率直に言って、本当の自分ではない自分が話しているのを聞くのは非常に不快です」と書いている。
クラークはElevenLabsに対し、同社のツールにアップロードされた音声を削除し、今後自分の声が複製されるのを阻止するよう要求。だが同社は、問題の音声は自社の技術で作られたものだと断定できないと説明。音声が「ヘイトスピーチや中傷」でない限りすぐに対応はできないとし、著作権の侵害についても同社は責任を負わないと主張した。同社からはその後、連絡や対応はなかった。
advertisement
「自分の声に個人的な所有権がないのはひどい。私たちにできるのはせいぜい、この状況を非難することだけだ」とクラークはフォーブスに語っている。
ElevenLabsの共同設立者で最高経営責任者（CEO）のマティ・スタニシェフスキはフォーブスの電子メール取材に対し、作成されたコンテンツが「損害を与えたり、名誉を毀損したり」する可能性がある場合、ユーザーは声を複製する人物の「明確な同意」が必要だと説明した。同社はクラークの件から数カ月後、安全対策として、ランダムに生成された単語を読み上げた声を録音し、複製しようとしている音声と一致することを確認する「ボイス・キャプチャ」機能を発表した。
クラークのように、自分の声が生成AIツールによって操作され、ポルノや人種差別、暴力的なコンテンツの作成に悪用された経験を持つ声優は多い。ElevenLabsは今年1月に音声合成AIツールのベータ版を公開した後、同ツールが悪用される事例が起きていると公表。その翌日、オンラインメディアのVice（バイス）は、ネット掲示板「4Chan」の匿名の投稿者が、当時無料だったこのツールを使い、ジョー・ローガンやエマ・ワトソンといった有名人の声で人種差別的、トランスジェンダー嫌悪的、暴力的な発言を生成していると報じた。
