AIシステムは人間よりも説得力があり、オンラインの説得トーナメントの勝者やプロの勧誘員、さらにはディベートの世界選手権の王者をも上回るパフォーマンスを示している。
移民制限や君主制から、医師による自殺幇助、ウクライナ紛争に至るまでの問題において、より説得力のある主張を展開するだけでなく、チャリティの資金集め（ファンドレイザー）としても人間より優れており、十分な報酬を得ているプロの勧誘員よりも大幅に多くの寄付金を実際に集めることができる。
約7000人の参加者との約1万9000件の会話を調査した一連の4つの実験において、人間の専門家は自らテーマを選択し、事前にリサーチを行い、何時間もの体系的な対面練習を重ねることが許されていた。さらに、1000ポンドの現金ボーナスというインセンティブまで与えられていた。
それにもかかわらず、人間はAIほど頻繁に相手を説得することはできなかった。NGO「セーブ・ザ・チルドレン」への実際の寄付金を集める場面において、AIは英国の資金調達会社のプロの勧誘員よりも3倍近い効果を発揮した。
「平均して、AIは私たちがテストしたすべてのカテゴリーの人間の説得者を上回った。ランダムに選ばれた一般人、トーナメントで選ばれた一般人、そしてエリートディベーターさえもだ」とオックスフォード大学の研究チームは述べている。
さらに、追跡研究において、専門家が自分を負かしたAIを相手に練習し、自らのパフォーマンスの履歴を振り返り、重要な局面でAIなら何と言ったかを確認できるコーチングツールを与えられた後でも、AIの優位性は揺るがなかった。
研究チームによると、AIの優位性は、膨大な情報を高速で活用する能力に由来しているようだ。コーチングを受けた人間の専門家であっても、AIに対して「人間と同じ速度、かつ人間と同じ長さのメッセージで返答する」という制約を課した場合にのみ、ようやくAIと互角に渡り合うことができた。
この研究結果は重大な影響をもたらす可能性があると研究チームは指摘する。最も能力の高いAIを利用できる政治キャンペーン、ロビー活動企業、あるいは資金調達運動が、より説得力のある論拠や、より才能のある人間の擁護者を抱えるライバルに勝利することを可能にするからだ。
一方、誤情報を拡散させようとする者、個人を標的にした強制的でパーソナライズされた誘導キャンペーンを行おうとする者、あるいは詐欺を働こうとする者にとっては、その活動が容易になる可能性がある。
「今回の結果により、最先端のAIは、私たちが採用できた最も入念な準備をし、インセンティブを与えられ、専門知識を持つ人間よりも、会話における説得能力に優れていることが実証された。人間に訓練を施しても、その差は縮まらないようだ」と研究チームは述べている。
「これらのシステムへのアクセスが拡大し続けるなか、もはや『AIが人間以上の説得力を持てるか』ではなく、『この能力がどのように、どこで、そして誰のために行使されるか』が問題である」
今回の結果は、AI Security Instituteが昨年実施した同様の研究と一致している。その研究では、パーソナライズやマイクロターゲティングよりも、情報の密度が説得力を高めることが明らかになっていた。
しかし、説得力の高いモデルほど、より不正確な主張を行う傾向があったと研究チームは述べている。もっとも、これは「不正確な主張のほうが、正確な主張よりも説得力がある」ということを意味するわけではない。
「この相関関係の考えられる説明の1つは、モデルがその回答において情報密度を高めるにつれて、最終的に信頼できる正確な事実の供給が底を突き、より説得力が低い、あるいは正確性に欠ける内容を生成し始めるということだ」と研究チームは説明する。
「説得力を高めるのと同じ技術が、事実としての正確性を損なう原因にもなっており、このことは、強固な評価基準、モデル学習に関する透明性、そして影響力や真実性に影響を及ぼし得るいかなる最適化に対しても、慎重な検討を行うことの重要性を浮き彫りにしている」
