【お知らせ】Firefoxでの記事閲覧について

AI

2023.01.27 10:30

ChatGPT使用検出ソフトの開発、教育分野を舞台に激しい競走始まる

あるいは、ヨーロッパから、CrossPlag(クロスプラグ)のようなスタートアップがやってくるかもしれない。CrossPlagによれば、同社の技術はChatGPTによって作成されたテキストを確実に検出するだけでなく、既存の盗作検出システムを欺くために一般的なAIサポートによるい言い換えツールを使ったテキストも正確に検出することができるそうだ。

テキストをさまざまな翻訳ツールに通し、ある言語から別の言語へ、そして再び英語へと翻訳することで、教師や不正防止システムの目を欺こうとする、新しいがかなり一般的な手法である「スピニング」を検出するのにもCrossPlagのシステムは有効だという。ヨーロッパでその多言語要件に対応することが、同社にとって大きな助けとなっているとのことだ。

また、教師や学校が不審な文章を発見するための業界リーダーであるTurnitin(ターンイットイン)もある。こちらも現在、ChatGPTのソリューションをテスト中とのことだ。すでにスニークピークをリリースしている。彼らは、経験と専門知識を頼りに、検出システムを開発している。

「ChatGPTのような大規模言語AI生成ライティングモデルは汎用的ですが、その統計的な特徴を検出するAIシステムは特別に構築する必要があります」と、TurnitinのAI担当副社長のエリック・ワンは述べる。「私たちの場合、学生の書き方や教育者が参考にするものについての深い理解を活用して、これらのAI生成ライティングシステムが学生のライティングにどのように使用されているかを可視化する検出器を構築しています。現在テストしているものは、20年にわたる教師との協力関係の上に成り立っており、実際の生徒の作文に対する洞察を与えるものです」

また、Turnitinのシステムとソフトウェアは、すでに世界中の何千もの学校に導入されており、講師がすでに知っているプラットフォームとユーザーエクスペリエンスであることも、同社にとって有利な点だろう。

そして、OpenAIが自分たちの作品を特定する可能性も常にある。同社は、AIのテキストに透かしを入れ、簡単に見破れるようにすることをほのめかしており、それを「mitigation(ミティゲーション)」と呼んでいる。

しかし、もちろん、テクノロジーや学門的不正について知っている人なら、OpenAIが透かしを入れた瞬間に、誰かがそれを除去するアプリを開発し、AIと人間の文章を区別する責任を教員やこれらの企業のうちの1つ以上に負わせることになるだろう。

いずれにせよ、ボットの書き方や選んだ言葉から、疑わしいものを確実に発見し、フラグを立てることができるツールを開発した企業は、大きな市場地位を獲得することになるだろう。もちろん、学術的な研究のインテグリティや人間の創造性の価値を維持することにも貢献する。

これは、文字どおりの意味でも、比喩的な意味でも、悪い価値提案ではない。

どのようになろうが、AIだけでなく、私たちが、一体誰が話しているのかを見分けることができるようになるという点で、ChatGPTのような生成AIには並外れた価値と利益があるのだ。

forbes.com 原文

翻訳=上西雄太

ForbesBrandVoice

人気記事