2022年のChatGPT一般公開以降、生成AIは学術的誠実性への脅威を強め、識字能力の危機への懸念や、学生の課題成果物の真正性に対する不安を一層深めてきた。一部の学校や大学ではAI検出手法を導入しているが、その多くは信頼性に欠けることが判明しており、学生の間では誤って不正の疑いをかけられるのではないかという不安が広がっている。
そして今、生成AI自身から生まれた新たな検出手法が、教育現場をさらに複雑化させる可能性が出てきた。
先週、AnthropicはEUのAI法（Artificial Intelligence Act）に準拠するため、Claudeが生成したコンテンツに電子透かしを施す措置を導入すると発表した。この電子透かしは読者には検知できず、コピー＆ペーストされたコンテンツにも残り、軽微な編集を経ても保持される。仕組みとしては、テキスト中の単語パターンの出現確率を変化させ、人間はそのパターンを見抜けないが、バックエンドのコードを持つ機械であればその使用を検出できるようになっている。電子透かしが単語選択そのものに埋め込まれているため、テキストのサンプルが大きいほど検出の信頼性が高まる一方、短い文章や文法・コピーの編集ではこの透かしを保持しにくい。同社はまだ検出ソフトウェアを併せて公開していないが、検出APIが近く提供される見通しであると示唆している。
一部では、この新たな措置により、学生が大規模言語モデル（LLM）に頼るのを抑止する、あるいは教授陣にAI利用を確実に見抜く手段を与えることで、教室でのAI利用を排除できると期待されている。例えば『シドニー・モーニング・ヘラルド』紙は先週、「AIによる学校エッセイの不正、電子透かしで発覚へ」との見出しを掲げた。
一方で、高等教育におけるAI利用への懸念は根拠のないものではない。教授陣は広範な不正行為という明白な問題に直面しており、多くが倫理に反するAI利用を排除する独自の手段を編み出さざるをえない状況にある。誤った告発を避けつつ学術的誠実性を維持するために、標準的な検出手法が求められているのは理解できる。しかし、Claudeの電子透かしの機能をめぐる不確実性は、AI検出における確信の新時代を告げるどころか、新たな課題をもたらす可能性がある。
電子透かしがもたらす第一の問題は、LLMの利用の程度と性質にある。重要なのは、この電子透かしが答えるのは「これはClaudeによって部分的に書かれた可能性がどれくらいあるか」という極めて曖昧な問いのみだという点だ。Claudeがどの程度使われたのか（編集のためか、あるいは完全に生成させたのか）を示すことはできず、また、そのテキストが別のボットによって生成されたものではなく人間が書いたものであるかを検証することもできない。つまり、ぎこちない数文を書き直すためにClaudeを使った学生と、エッセイ全体をボットに書かせた学生とで、検出結果が同じフラグを立てる可能性があるのだ。さらに、電子透かしはより徹底した編集や、より短いテキストサンプルでは劣化するため、その有効性は学科や課題によって不均一になる可能性もある。こうした状況を踏まえ、教授陣は、電子透かしが検出するいかなる可能性も不正と見なすのか、あるいは許容される利用の閾値が存在するのかを判断するという新たな課題に直面することになる。
この曖昧さは、検出ソフトウェアの利用可能性をめぐる問題によりさらに複雑化する。ソフトウェアの公開は目前に迫っているが、Anthropicは、機関や利用者がどのようにこの製品にアクセスできるかを明示していない。もし検出ソフトウェアが機関単位のライセンス契約に紐づけられれば、資金の豊富な研究機関の方が、資金の乏しい学校やコミュニティカレッジよりもAI生成の文章を排除しやすいという格差構造を生み出しかねない。過去のAI検出ツールが登場した際、学生は生成された文章を改変して検出を回避することに長け、検出を逃れるために自らの文章を「質を落とす」ことまで行うようになった。皮肉なことに、学生の文章力を損なったのはAIだけではなく、検出手段そのものでもあったのだ。検出ソフトウェアの機関的利用について明確な指針を示すことは、学生の不安を鎮め、人間が書いた証しとしての意図的な文章上の誤りを助長するのを防ぐことにつながる。
最後に、AIによる文章に絶えず触れることで、AIボットの語彙、構文、リズムを吸収する学生が増えているなか、ボットを直接使わなくても暗黙のうちにClaudeの確率パターンに従った文章に電子透かしが検出される可能性があるかどうかは、まだ分からない。現時点で検出ツールが利用可能でない以上、誤検出がこの新たなAI利用時代の特徴となるかどうかは不明である。AI生成を検出する信頼できる手段として売り出される新たなツールは、学術的不正をめぐる懲戒手続きにおいて重い意味を持ちうるため、誤検出のリスクは極めて高いものとなる。
Claudeの電子透かしは、学術的不正の抑止力として、また学術成果物の誠実性を判断するより効果的な手段として、実際に価値を発揮するかもしれない。しかし、このツール単独では、AIが教育機関にもたらしてきた多岐にわたる問題への答えにはならない。教育者、管理者、そして機関にとってより重要なのは、AIの許容される利用について明確で合理的かつ十分な情報に基づいた基準を策定すること、この新たな技術の時代に適応可能な指導法を開発すること、そして学術的誠実性をめぐるさらなる混乱や憶測を招くのではなく、学生の成功を支える評価方法を構築することである。
