・統計的な印は編集で劣化する。Anthropic自身の文書も、校正、翻訳、大幅な言い換え、短い出力はいずれも、同社のテキスト・ウォーターマークが検出されなくなる原因になり得ると認めている
・除去ツールはすばやく広がる。 Anthropicの発表から1日以内に登場したGitHubのツールは、Claudeの出力に1回または2回の書き換え処理をかけることで、1日あたり約72件のスターを獲得した。これは、ウォーターマークが依拠するトークン列の約70％を乱すのに十分だった
・ウォーターマークの検出は著者性の証明ではない。Anthropic自身も、一致が示すのはコンテンツをClaudeが「処理した可能性がある」ということだけであり、Claudeが書いたということではないと述べている。AIウォーターマークのチェックを判定として扱う際に、プラットフォームや雇用主がこの曖昧さを考慮する可能性は低い
反発でAnthropicはすでにユーザーを失っている
AIウォーターマークは、脆弱性があるにもかかわらず、ユーザー行動に実際の影響を及ぼしている。Business Insiderは、ウォーターマークの展開後に数十人のユーザーがClaudeのサブスクリプションを解約していると報じ、実際に解約した複数の人物の名前も挙げた。
あるAIコンサルタントは同メディアに対し、Claudeがゼロから生成したテキストだけでなく、自分で書いて軽く編集したテキストにもウォーターマークが現れる可能性があるため解約したと語った。あるソフトウェアエンジニアは、他のサービス上の懸念からすでに退会を決めていたが、ウォーターマークがその判断を裏付けたと述べた。あるデジタルエージェンシー創業者は、より広い懸念を示した。ベンダーのツールを中心にワークフローを構築すると、そのベンダーが後から一方的に条件を変更できるという問題である。
AnthropicはBusiness Insiderに対し、この発表に関連する解約が測定可能なほど増えたとは認識していないと述べた。同社は昨年時点で約30万社の法人顧客を抱えており、その規模では、X上の数十件の公開された不満はほとんど目立たない。
件数の多寡にかかわらず、この反発は有用なデータポイントである。無料のGitHubツールで簡単に破れるAIウォーターマークであっても、一部のユーザーが自分の支払っている製品をどう認識するかを変えることを示しているからだ。信頼に影響を及ぼすうえで、その印が技術的に堅牢である必要はない。十分に見える、あるいは十分に噂されるだけで、人々は何かが変わったと感じるのである。
