Redditは今週、同社がプラットフォーム上のスパム、ボット活動、真正性を欠くコンテンツを抑制するために講じている措置の概要を示すアップデートを公表した。
この発表は、さまざまなブランドがRedditを利用して、ChatGPT（チャットGPT）やClaude（クロード）などのAI検索ツールによる自社に関する回答を密かに操作しているという報告と重なる。これは、コミュニケーターやマーケターが「生成エンジン最適化（GEO）」と呼ぶ、より広範な手法の一環であり、AIが生成する回答に表示されるように設計されたオンラインコンテンツを作成する戦略である。
5WPRによれば、RedditはLLM（大規模言語モデル）全体で約40％の頻度で引用されるAIエンジンの主要な情報源であり、この新たな発見可能性をめぐる戦場の中心に押し出された。そして、その存在感の大きさが悪用の標的にもしている。
コーネル大学の研究者らはある研究の中で、Redditを利用してChatGPT（チャットGPT）やグーグルの「ディープリサーチ」AIエージェントを操作することは、拍子抜けするほど簡単であると指摘した。コーネル大学の調査では、Redditのコメントに埋め込まれたわずか13ワードという短いテキストの断片だけで、AIが生成する回答に影響を与えるのに十分であることがわかった。ある管理された実験では、サブレディット「r/OnlineDating」に1件のコメントを仕込んだだけで、架空のマッチングアプリがおすすめの最上位として表示された。「本当にそれほど単純なことなのです」と、コーネル大学の研究者の1人であるハル・トリードマンは404 Mediaのインタビューで語った。
そのインセンティブは現実のものであり、その下に1つの産業全体が生まれつつあるほどだ。GEOエージェンシー、AI上での可視性を測定するプラットフォーム、コミュニケーション担当者らはこぞって、AIチャットボットの結果がユーザーに何を返すのかをブランドが理解し、形づくるのを支援しようとしている。
Redditは、AIを活用して「新たなシグナルとより迅速な執行を通じて、操作されたコンテンツやスパムコンテンツを検出する機能を拡張する」と述べた。報道によると、同社は現在、1日あたり2300万回のスパム閲覧をブロックし、200万票近くの不正な投票を取り消している。同時に、同社の規約に違反するコンテンツとの戦いにおいて長年役割を果たしてきた、コミュニティのモデレーターやユーザーの存在も強調している。
しかしRedditは「21年間にわたってボットを退けてきた」と述べる一方で、GEOは従来のボットネットワークやスパム投稿よりも微妙な問題であるように見える。露骨な広告はかなり容易に見分けられるが、AIの回答を誘導することを意図したコメントや投稿は、周囲に溶け込むよう設計されている。そして、その2つの違いを合理的な疑いの余地なく見分けることは不可能かもしれない。「汚染されたテキストと実際のユーザーのテキストを区別するのは、ただ難しいのです」と、コーネル大学の共著者ティンウェイ・チャンは404 Mediaに語った。
同じ論理は、AIが回答を探すあらゆるオープンプラットフォームに当てはまる。Quora、Wikipedia、Facebookなど、ユーザー生成コンテンツがインデックスされ、引用されるあらゆる場所が対象となる。ブランドにはAIの検索結果に表示されることへの直接的な金銭的インセンティブがある。つまり、AIの検索結果の参照元となる場所に自社の存在を仕込むことに対しても、同様のインセンティブが存在するのだ。
各プラットフォームはそうした行為のモデレーションに取り組んでおり、そうすべき十分な理由もある。しかし、企業がどのように発見されるか、そしてそのオンライン上の評判がどのように一般に伝わるかには極めて大きな利害が絡んでいるため、ユーザー生成コンテンツサイトに影響を与えようとする圧力は、今後もいたちごっこであり続ける可能性が高い。
これをとりわけ難しくしているのは、GEOが利用する行動そのものは新しいものではないという点だ。Redditはもともと、ユーザーが製品、ブランド、サービスについて偏りのない見解を得るために訪れる場所だった。ユーザーが特定の製品やブランドを推奨したり、注意を促したりするという力学は、常にこのプラットフォームの中核だった。
Redditユーザーは長年、通常の投稿を装った宣伝コンテンツを嗅ぎ分けることに長けてきた。だが、何が本物の誠実な支持表明で、何がAIの結果に影響を与えるために設計されたものなのかを、プラットフォーム全体にわたって大規模に判断することは、明確な解決策のない緊張を生む。真正性と公平性への期待こそがこのプロダクトのすべてであり、それがなければ、Redditが20年にわたって築いてきた信頼は崩れ始める。
