AI

2026.07.22 11:09

AIが書いた研究論文、学術界に問われる「文体」と「信頼」の境界線

Adobe Stock

Adobe Stock

学術分野における新たな「ヒューマナイザー(人間らしく書き換えるツール)」が、学術誌や大学、資金配分機関を悩ませ始めている。Nature誌が7月に報じたところによると、Claudeのスキルとして利用可能なオープンソースのヒューマナイザーツールは、研究論文や助成金申請書において、AI特有の文章パターンをテキスト生成システムに排除させることができるという。このツールは、学術誌や学校、資金配分機関が、AIが執筆した文章を検出・評価し、処罰の対象とする現状に対抗するために作られた。英語での執筆に苦心する一部の研究者は、このツールは自身の研究をより理解しやすくするためのものだと主張する一方、これは新たな学術的不正行為にすぎないという声もある。

ヒューマナイザーが実際に行うこと

議論の中心となっているのは、AI支援によって作成された研究論文や助成金申請書の草稿を編集するために開発されたオープンソースのプロジェクト「Academic Humanizer」だ。このツールは、他のAIヒューマナイザーと同様に、学術成果物におけるAI使用に関連する文章パターンを排除できるため、一部の研究者はこれを検出をめぐるいたちごっこの新たなステップと見なしている。同プロジェクトのGitHubページによると、このツールは一般的なAIの表現、長文、決まりきった導入部、ダッシュ(—)、さらには「paves the way(道を開く)」「to the best of our knowledge(われわれの知る限り)」「delve(深く掘り下げる)」「underscore(強調する)」といったフレーズを削除する。また、研究者の過去の論文を学習させることで、新たな草稿をその著者の本来の文体に近づけることも可能だ。

開発者たちは、Academic Humanizerを不正行為のためのツールではなく、明瞭性と文体を整えるためのツールとして位置づけている。README(説明書き)によると、このツールは研究結果を捏造したり、データを捏造したり、引用を変更したりすることはなく、ユーザーは学術誌や資金配分機関の規則に従ってAIの使用を開示しなければならないとしている。Academic HumanizerはClaudeのスキルとして構築されており、利用者の過去の論文を参照するように設定できる。

科学論文の出版プロセスに浸透するAI執筆

Science Advances誌に掲載された研究では、2010年から2024年までのPubMedのアブストラクト(要約)1500万件以上が調査された。研究者らは、大規模言語モデル(LLM)の登場後に語彙の著しい変化を発見し、2024年の生物医学分野のアブストラクトの少なくとも13.5%がLLMで処理されたと推定した。データの一部では、その下限が40%に達していた。

多くの研究者にとって、AIは言語ツールである。文法を整え、不自然な文を翻訳し、英語の流暢さが知的クオリティと混同されがちなシステムにおいて、非ネイティブスピーカーが互角に渡り合えるよう支援する。このような使い方をすれば、不正行為というよりも、文章をゼロから作成するのではなく、メッセージを洗練させることを目的としたGrammarlyのような文書作成支援ツールに近いものに見える。

問題が生じるのは、こうしたツールが、希薄または使い回された主張、虚偽の参照文献、そして異なる論文をどれも同じように響かせるペーパーミル(論文捏造工場)特有の一般的なコンテンツでページを埋め尽くす場合だ。Nature誌は4月、2025年の論文のうち数万件にAI生成による無効な参照文献が含まれている可能性があると報じた。250万件の論文における1億1100万件の参照文献を監査した2026年の別のプレプリント(査読前論文)では、2025年だけで14万6932件のハルシネーション(事実に基づかない生成内容)による引用があると推定された。編集者は文章スタイルが向上することには困惑しないが、主張が精査に耐えない場合には強い懸念を抱く。

コンテンツや出版業界の企業は、いずれもAI検出ツールを試してきたが、その結果はまちまちか、あるいは芳しくない。AI検出は、機械的なパターンや、テキスト内容の大部分をコンピュータが作成したことを示す兆候を特定することで機能する。しかし、このアプローチは脆弱で、簡単に回避できてしまう。市場のツールは、AI検出システムを出し抜くように急速に進化し、結果として検出技術は一般的に使われなくなっていった。

検出精度の低さに加え、AI検出器が人間自身の手による文章をAI生成コンテンツと誤判定する「フォールスポジティブ(偽陽性)」の問題が事態を悪化させている。これは、学生や若手研究者、非英語圏の執筆者がただでさえ不当な監視を受けやすい学術の場において、特に危険である。AI生成という誤った嫌疑は、キャリアを台無しにしかねない。

人間化と自動生成の違い

変化の激しい出版・コンテンツ業界において、コンテンツの生成、改善、編集、モデレーションのプロセスにおけるAIの役割は存在する。しかし、そのバランスを取ることは極めて難しい。学術誌の編集者は、専門家に記事を読んで確認してもらう必要があるが、専門家は多忙を極めている。査読は多くの場合無報酬で、授業や診療、ラボの管理、助成金の締め切りなどに追われる合間を縫って急いで行われる。このような環境において、コンテンツ作成と編集プロセスの双方でAIを利用することは、魅力的な近道となる。

同様に、研究者は、成果の量を重視するシステムの中で、より多くの論文を発表し、より多くの助成金を申請し、より迅速に行動することを迫られている。AIは言語を洗練させ、論理を整理し、難解な科学を読みやすくするのに役立つ。しかし同時に、実証の裏付けが不十分な研究を、いかにも説得力があるかのような文章に仕立て上げることもできてしまう。ここにリスクが存在し、出版社や読者が、どのような形であれAIが介入することに問題を見出す理由がここにある。

AIが生成したコンテンツは、未確認の引用や希薄なデータ、編集者が適切に検証できず、著者自身も十分に弁護できない主張を容易に生み出してしまう。編集者にとって、機械が作成した査読書は一見徹底しているように見えるかもしれないが、実際には実施されなかった実験や、筋の通らない対照実験、あるいは原稿の主張よりも限定的な内容しか示していない引用を見落とす可能性がある。

その兆候はすでに現れている。ある研究によると、近年のAI国際会議における査読テキストの6.5%から16.9%がLLMによって大幅に修正されており、その割合は会議ごとに異なっていた。ICLR 2024(表現学習に関する国際会議)に関する別の研究では、査読の少なくとも15.8%がAIの支援を受けて執筆されていると推定され、AI支援の査読が採否の境界線上にある論文の評価や採択率に影響を及ぼし得ることが明らかになった。Claudeのスキルとして利用可能なオープンソースのヒューマナイザーツールは、研究論文や助成金申請書において、AI特有の文章パターンをテキスト生成システムに排除させることができる。

さらに懸念すべきことに、ワシントン・ポスト紙は2025年、AI支援による査読システムに影響を与えることを意図した隠し命令(プロンプトインジェクションなど)を研究者が発見したと報じた。The Guardian誌も、arXivに投稿された論文内の同様の隠されたプロンプトについて報じている。

出版社と資金配分機関は動き出しているが、歩みは遅い

出版物におけるAIの普及が進み、著者、査読者、編集者が課題に直面する中、学術誌は新たな規則を策定する一方で、重要な知見の伝達を向上させることができるヒューマナイザーをサポートする方法も模索している。

エルゼビア(Elsevier)は、著者資格には人間のみが果たせる義務が伴うため、AIツールを著者として記載することはできないとしている。同社のジャーナルポリシーは、正確性と誠実さに対する責任を人間の著者に課している。シュプリンガー・ネイチャー(Springer Nature)は、査読者に対し、原稿を生成AIツールにアップロードしないよう求めており、AIに著者資格を認めないとしている。

助成金配分機関は、査読に対してより厳しい姿勢を取っている。アメリカ国立衛生研究所(NIH)は、科学分野の査読者が助成金申請や研究開発契約プロポーザルの分析および評価書の執筆に、大規模言語モデルや関連する生成AIツールを使用することを禁止している。国立科学財団(NSF)は、査読者がプロポーザルの内容や審査記録を未承認の生成AIツールにアップロードすることを禁じている。

Nature誌は5月、助成金配分機関がすでにAIによって作成された申請書の急増に対処していると報じた。さらに、米国や欧州における研究環境の大きな変化が、研究の準備や資金提供の方法に変革をもたらしている。予算や人員の限られた機関は、コネクションの少ない研究者を罰したり、古い階級制度を固定化したりするようなルールを作ることなく、膨大な申請件数を管理する必要がある。

オープンソースのヒューマナイザーツールは、特定のアプリケーションとしての重要性よりも、市場が向かう方向性を示す指標として重要である。資金調達や支援を導く研究のプロセスやコミュニケーションの側面を支援するツールに対する需要が、明らかに存在している。そして査読の側でも、AIは研究のワークフローにおいてより大きな役割を果たしており、草稿、査読、プロポーザル、編集選別の形成に関与している。これから進むべき方向は、研究プロセスにおけるAIの完全な禁止(そしてそれは失敗に終わるだろう)と、AIコンテンツツールへの完全な開放との間のどこにバランスを着地させるかについての、率直で誠実な対話である。

これは、科学出版が文体と信頼性を混同するのをやめなければならないことを意味している。勝者となるのは、AIの使用を研究のサプライチェーンの一部として扱い、次の新たなツールが登場して検出がさらに不可能に思えるようになる前に、証拠、出所、責任に関する検証体制を構築する機関だろう。

forbes.com 原文

タグ:

advertisement

ForbesBrandVoice

人気記事