AIは、政治家が電話やチャットボットを通じて有権者を投票に向かわせたり、対立候補を中傷する広告やメッセージを作成するために使われはじめている。本物の画像とAIが生成した画像の違いを見分けられない有権者は、判断を誤る恐れがある。
ペンシルベニア州の下院選民主党候補シャメイン・ダニエルズは最近、Ashley(アシュリー)という名のAI選挙ボランティアを立ち上げた。アシュリーは、有権者にダニエルズの政策案を説明し、有権者にとって何が重要な課題かを尋ねている。ダニエルズによると、アシュリーは情報収集力を高め、有権者との会話を進めることに寄与しているという。
アシュリーを開発したのは、9月に設立された政治向けAI電話サービス企業のCivoxだ。同社は、20種類以上のオープンソースAIモデルを組み合わせてアシュリーを作ったが、どのようなデータに基づいてAIモデルをトレーニングしているかについて明らかにしていない。
AP通信によると、スーパーPAC(特別政治行動委員会)が支援する共和党候補であるマイアミ市長のフランシス・スアレスは、大統領選から撤退する前に、「AIフランシス・スアレス」という名のAIチャットボットを使用し、スアレスの政策案に関する質問に答えていたという。
4月には、共和党全国委員会(RNC)がAI生成画像を使ってバイデン大統領を中傷した。同委員会は、バイデンが再選された場合の未来像を示す広告に、中国が台湾を侵略するシーンや、米国とメキシコの国境に移民が殺到するシーンなどのAI生成画像を利用した。
また、共和党の大統領候補指名争いに立候補しているフロリダ州のロン・デサンティス知事は6月、最大のライバルであるトランプ前大統領が、新型コロナ対策で右派から批判を浴びたバイデン政権の元医療顧問のファウチ博士とハグをしているAI生成動画を公開したが、その際にフェイクであるという注意書きを記載しなかった。
ニューヨークのエリック・アダムス市長は2025年まで再選出馬の必要はないものの、AIを使って自身の声をまねた音声にスペイン語やイディッシュ語、中国語などを話させ、市民に電話をかけたことで批判を浴びた。この電話は、同市のAIに関する行動計画の一環として実施されたもので、市民に対するサービスの提供・促進が目的だった。しかし、監視技術監視プロジェクト(Surveillance Technology Oversight Project)は、このような有権者へのアプローチは非倫理的であり、市長が実際には話せない言葉を話せるという誤解を生むものだと非難した。