人工知能（AI）を研究者が科学論文の執筆に利用することは、現状ではけっして問題なしとは言えない。実際、ある研究チームがこのほど英医学誌「ランセット」に発表した短報論文によると、約3年間に科学誌に発表された論文のうち、2810本に記載されていた参考文献計4046件が完全な捏造だった。これらの捏造の大半はAIによるハルシネーション（幻覚）だったと推測される。そうなると、各論文でほかにも人工的につくり出された箇所はないのかという疑問も湧いてくる。
277本に1本の論文で引用捏造
AIによって生成された「参考文献」に関する調査を実施するため、米コロンビア大学のマクシム・トパーズ、ニール・ロガン、パラビー・グプタ、ジーホン・ジャンと東フィンランド大学のラウラ＝マリア・ペルトネンからなる研究チームが活用したのもAIだった。彼らは自動の参考文献検証システムを開発した。2023年1月1日から2026年2月18日までに米国の論文データベース「PubMed Central Open Access (PMC OA)」に収録された論文247万1758本と、その参考文献1億2561万5773件をすべて調べるには、コンピューターの力を借りなければ膨大な時間がかかるからだ。
研究チームは、論文に記載された引用文献と実際の書誌データベース上の記録を照合し、不整合なものを特定・抽出した。それらをさらに別のAI、米アンソロピックの「Claude 3.5 Haiku」を用いて精査し、単純な記載ミスと捏造に分類した。そして、PubMedや「Crossref」、「OpenAlex」、「Google Scholar」といったデータベースで見つからなかった参考文献は、完全に捏造されたものと判定された。
調査対象期間の最初の年である2023年には、捏造された参考文献が少なくとも1件含まれる論文はおよそ2828本に1本だった。わずか2年後の2025年には、その割合は458本に1本に急増していた。さらに、2026年の最初の7週間では277本に1本と、増加傾向に拍車がかかっている。比較的短期間のうちに、捏造文献の記載率は12倍超に増えたことになる。
