AI検索エンジンは「堂々と」精度の低い回答を提示する
最も驚くべき発見の1つは、評価されたAI検索ツールが正しい情報を見つけられなかったとき、それを認めることなく、実にたやすく「偽の結果」を生成したことである。
2人の研究者は連名のメールで、こう説明している。「チャットボットは全体として、正確に答えられない質問への回答を拒否することが苦手で、代わりに不正確な回答や推測に基づいた回答を提供した。生成AI検索ツールは（引用元記事への）リンクを捏造することも多く、ポータルサイトに配信された記事や無断転載された記事を引用しがちだった」
このような生成AIの出力結果がいかにユーザーを惑わし、信頼性があるかのような錯覚を起こさせるかは容易に想像がつく。生成された情報が完全なる捏造だった場合は、なおさらだ。
さらに衝撃的だったのは、各AIチャットボットの有料版（基本的にプレミアム版）のほうが、無料版よりもパフォーマンスが悪かったという事実だ。「プレミアム版のチャットボットは、無料版よりも堂々と、間違った回答を提示した」と研究者らは指摘している。
この結果は、AI検索エンジンの信頼性について深刻な疑問を投げかけるものだ。特に、サービスにお金を払えば当然の見返りとして精度と信頼性が向上すると考えるユーザーにとっては、重大な問題だろう。AI検索に関していえば、支払っただけのリターンは得られないことをこの研究結果は示唆している。
AI検索はリンクを捏造し、透明性に欠ける
生成AI検索ツールは、単に事実を間違えるだけでなく、記事の引用にも苦戦していた。研究によると、生成された検索結果は元記事の掲載されたページに直接リンクを貼るのではなく、リンクを捏造したり、転載された記事を引用したりすることが多かった。
研究者らは、この技術的傾向は情報の出典をあいまいにするだけでなく、オリジナルの配信元へのトラフィックを減少させると指摘している。ページトラフィックの減少は長期的に、ユニークページビュー（ページ別訪問数）、新規購読者数、広告収入、記事のレレバンシー（読者の興味関心に関連する度合い）に悪影響を及ぼしかねない。
