AIの高度化が進み、実在する人物を模倣することが容易になるにつれ、企業は自社の評判や収益に対する新たなリスクに直面している。なかでも女性創業者は、特にその脅威にさらされている。
すでにディープフェイクの圧倒的多数は女性を標的にしており、米国人はそれがどれほどの脅威になるかを懸念している。67%が、AIが女性の搾取に使われることを懸念していると回答した。頂点に上り詰めるまでにすでに数多くの課題に直面している女性経営者にとって、ディープフェイクは恐喝の手段として悪用されかねず、またオーディエンスとの間に築いてきた評判を傷つける恐れがある。
AIプロダクトを構築するベンチャースタジオ、Byte&Chordの創業者であるアリシャ・アウトリッジは、性的搾取を含め、女性リーダーが長年直面してきた脅威と、企業に対するAIの武器化との間に明確な連続性を見ている。「私はテック業界で、公の場に立つ女性エグゼクティブである。ストーカー被害にも遭ったことがあるし、私のクローンのライセンスを提供して収益分配をしないかと企業から持ちかけられたこともある。だから、需要がすでに存在することはわかっている」と彼女は語る。「私が懸念しているのは、それが提案ではなくなったときに何が起きるのかということだ。オンライン上での私の存在感が増すほど、学習データも増える。これはリベンジポルノと同じ軌跡をたどると考えている。つまり、同意なく、後から自分に対して行われ、救済措置は何年も遅れて届くというものだ」
AIが創業者のアイデンティティを瞬時に複製してしまうことは、女性創業者にとって特に大きな懸念材料だ。ディープフェイクによって、顧客が信頼している本人と、AIが作成した偽物を見分けることが極めて困難になるからである。
「私になりすましたディープフェイクが拡散されれば、何年もかけて築いた信頼が一瞬にして崩れ去る可能性がある」と、教育・専門能力開発プラットフォームNova Chief of Staffの創業者兼CEO、マギー・オルソンは指摘する。
「最も懸念しているのは、誤情報が広がる速度の速さと、訂正が届く速度の遅さである。私の評判そのものがプロダクトであるブートストラップ企業にとって、それは一夜にして回復できる状況ではない」と、T-Mobileでチーフ・オブ・スタッフを務めた経験もあるオルソンは語った。
New Solutions Networkの創業者ナターニャ・ワクテルは、この技術がすでにどれほど説得力を持つかを「内側から」知っていると語る。
「ディープフェイクは、オーディエンスがあなたと何年もかけて築き上げてきた信頼を横取りするものだ。創業者にとってその信頼こそがビジネスのすべてであり、現在はそれを守る対策よりも早くコピーされてしまう。小規模企業において、創業者はしばしばブランドそのものだ。公の場に出れば出るほど、コピーされる素材も増えてしまう」とワクテルは述べる。
その代償は高くつく可能性がある。ここ数年で、ディープフェイクはすでにArupのような大企業を欺き、詐欺師に2500万ドル（約39億8000万円）を送金させる被害をもたらしている。Arupの事例では、CFOになりすますために使われたAIは、適切なタイミングでたった1人の従業員を欺くだけで十分だった。
ディープフェイクの標的となった経営者には、自らの評判と事業を守るための法的手段がいくつかある。ディープフェイクが商業的損害を与えたり、消費者を誤認させたりした場合、企業は名誉毀損や虚偽の印象（false light）に基づく民事請求に加え、ランハム法に基づく連邦商標訴訟を起こすことができる。さらに、同意のない性的ディープフェイクについては、連邦法のTAKE IT DOWN法（テイク・イット・ダウン法）を活用し、オンラインプラットフォームに対して48時間以内の即時削除を求めることができる。各州にも、なりすましや犯罪的嫌がらせを禁じる法律がある。
しかし、これらの法律の執行は不十分だ。機能させるための予算、研修、人員が伴わないまま成立しており、しかも主に被害が生じた後の対応に重点が置かれている。現在の法的手段には抜け穴も多く、ビッグテックは一部の法律が言論の自由を侵害するとして法廷で争っている。
米政府が認めているように、小規模事業者が「米国経済の屋台骨」であるならば、そもそもAIシステムがこうした同意のないディープフェイクを有害な目的で生成できないよう、規制をさらに強化しなければならない。
開示：本記事で引用した18歳以上の成人1,015人を対象とする米国世論調査は、筆者が創設したWomen Who TechおよびRAD Campaignが委託したものである。結果は回答が比例するよう加重処理した。1,000人の調査におけるベイズ信頼区間は3.5で、95%信頼水準における誤差の許容範囲±3.1にほぼ相当する。
