フェイスブックとツイッターは昨年末、トランプ米大統領に好意的なアカウントのネットワークを特定し、閉鎖した。このネットワークは米国人5500万人に向け情報を発信し、「敵対的生成ネットワーク（GAN）」と呼ばれる人工知能（AI）技術によって生成したフェイク画像を使用して偽の米国民をでっちあげ、ニュースを共有したり、政治的議論に参加したりしていた。AIを使って独自に画像を生成する手法は、偽情報ネットワークが高度に進化している事実を示している。
偽アカウントを見分けるために一般的に使われてきた方法は、単純な画像検索を使用して同じ画像が別のサイトや他のユーザーによって使用されていないかどうかを確認するというものだった。今では、こうしたフェイク画像を使った偽アカウントは表面上の信ぴょう性が高くなり、検知が難しくなっている。
現実世界と、フィリップ・K・ディックの描いたディストピアの世界との共通点は明確だ。ロボットが実際の人間と見分けがつかないほどに進化し、当局は識別のためより複雑な検査の導入を強いられる。詐欺や偽情報は今や、選挙運動にまん延している。その手口は真価を続け、候補者の注目度を高めるためにアルゴリズムを使用して実在しない人間の写真がでっちあげられているのだ。2016年米大統領選でのロシア情報機関による工作から始まったものが今や「メイド・イン・アメリカ」となり、選挙戦における重要な戦略の一部となっている。
昨年11月に民主党の大統領候補指名争いへの参戦を表明したマイク・ブルームバーグは、フェイスブックやフォースクエアの元幹部らを集めたテクノロジー企業、ホークフィッシュ（Hawkfish）をひっそりと立ち上げた。同社はウェブサイトも持たず、専らブルームバーグ陣営に対してコンテンツ作成や広告ポジショニング戦略、分析などのデジタル広告サービスを提供している。今や、デジタル戦略やソーシャルメディア戦略抜きに選挙を戦うことは不可能と言っていいが、候補者の政策案や意見を有権者に広めるための正当な戦略と、フェイクニュース拡散や偽プロフィル作成などの不法行為との間の線引きはあいまいになってきている。
