1998年、英国の医師で研究者のアンドリュー・ウェイクフィールド博士は、麻疹・おたふくかぜ・風疹（MMR）ワクチンと自閉症との関連の可能性を示唆する、いまでは悪名高い科学論文の筆頭著者だった。12年後、権威ある医学誌『ランセット』は、その知見と研究の信頼性に重大な疑義が生じたことを受け、同論文を撤回した。その後の調査で、ウェイクフィールドが患者データを歪め、金銭的な利益相反を開示せず、重大な倫理違反を犯していたことを示す証拠が明らかになった。
この論文は誤りであることが示されたにもかかわらず、ワクチンと自閉症の間にあるとされた虚偽の関連を、いまも数百万人が信じ続けている。この言説は数十年にわたり、公共政策と健康上の結果に影響を与えてきた。
偶然にも、この論文が発表された1998年はGoogleが創業した年でもあり、インターネットが人々の情報発見と共有のあり方を変え始めた時期だった。当初は従来型メディアがこの論争を押し広げたが、拡大するオンライン世界と大規模言語モデルはやがて、誤解を招く科学的主張に前例のない到達力と持続力を与えることになった。
インターネットが科学的協働に目覚ましい恩恵をもたらしてきたことに疑いの余地はほとんどない。だが同時に、研究を損ない、現実の被害を引き起こしかねないダークサイドも可能にした。そして、説得力はあるが不正である可能性のある研究をAIがかつてなく容易に生み出せるようになるなか、リスクは一段と高まりつつある。
ウェブは科学を民主化した
1989年、英国の科学者であるティム・バーナーズ＝リー卿はワールド・ワイド・ウェブを提案した。欧州原子核研究機構（CERN）で働いていた彼は、何千人もの科学者、コンピューター、データソースを結び、研究活動を支援し前進させる必要性を認識していた。ハイパーテキストと呼ばれる概念を土台にした彼の手法は、文書内のリンクをクリックすることで、世界の別の場所に保存された情報にアクセスできるようにするものだった。
彼のシンプルな着想は、今日私たちが知るウェブを生み出し、世界のコミュニケーションを変革した。特筆すべきは、彼がその発明を商業化せず、特許も取得しないことを選んだ点である。1993年、CERNはウェブを可能にするソフトウェアをロイヤルティーフリーで公開した。
数多くの恩恵のなかでも、ウェブは科学文献へのアクセスを民主化し、世界中の研究開発を飛躍的に加速させた。この能力が、工学、医学、コンピューティング、物理学などにおけるイノベーションを加速させてきたことに、ほとんど疑いはない。
ウェブが成熟するにつれ、研究者、大学、政府、そして増え続ける出版社は、科学知識のさらなる開放性とアクセスのしやすさを受け入れ始めた。結局のところ、共有と協働がもたらす明白な利点は、誰にとっても利益になるように見えたからである。
科学へのアクセスが容易になることの利点は明白だった一方で、ほとんど予期されていなかった負の側面が現れ始め、現実的で、ときに有害な結果をもたらすようになった。
オンライン科学のダークサイド
ケント・アンダーソンとジョイ・ムーアは、インターネットとAIによって形づくられつつある出版ビジネスモデルが科学研究にもたらすリスクについて警鐘を鳴らしてきた。
アンダーソンとムーアはいずれも、世界の研究エコシステムの中核を担う学術出版業界で数十年の経験を持つ。オンライン世界への移行期を中心に、科学出版の設計、提供、収益化のあり方を形づくることに携わり、『ニューイングランド・ジャーナル・オブ・メディシン』、『ネイチャー』、マグロウヒルなどの組織で役職を務めてきた。
彼らは、オンラインで科学にアクセスしやすくなることや研究におけるAIの顕著な利点を認めつつも、これらの技術が生み出した可能性のある、拡大するリスクの一部について警告している。
オンライン出版とAIは、より多くの研究者が重要な研究に可視性と迅速な発表機会を得ることを可能にした一方で、質の低い、あるいは偽の科学が入り込む機会も生み出した。
過重な査読プロセス、新しい技術、進化するビジネスモデルは、信頼性に欠ける研究や偽の研究が科学記録に紛れ込んでいる理由の一部である。
問題は学術界をはるかに超えて広がっている。今日の相互接続された世界では、根拠のない主張が夜のニュース、TikTok投稿、自称専門家による健康アドバイス、さらには公共政策にまで急速に入り込む可能性がある。
現在、AIによって、説得力はあるが研究が不十分な原稿を作成し、裏付けとなる参考文献をでっち上げ、科学的に見える素材を大規模に生成することが、かつてないほど容易になっている。悪意ある行為者がこれを行う理由は、偽の評判の構築、特定の主張の擁護、金銭的インセンティブ、「出版か死か（publish-or-perish）」という圧力など、多岐にわたる。
こうしたコンテンツの一部は正規の出版経路に入り込む可能性があり、さらに多くは意味のある科学的審査を経ないままオンラインで拡散され得る。気づけば、著名なオンラインインフルエンサーが疑わしい結論を数百万人に向けて宣伝し、ほどなく政策立案者が関心を示すことになる。
悪意ある行為者の動機は理解しやすい。では、学術出版プラットフォーム側はどうか。アンダーソンとムーアは、競争の激しいアテンション・エコノミーが行動変容に不釣り合いなほど大きな役割を果たしてきたと述べる。
歴史的に、多くの権威ある科学誌は、選別性、評判、機関購読を軸に商業的成功を築いてきた。だが、オープンアクセス出版の拡大と競争的な市場は、新たな経済的インセンティブをもたらした。著者負担型モデルの一部では、出版社は採択された論文ごとに収益を得るため、厳格な品質管理を維持することと、出版本数を増やすことの間に潜在的な利益相反が生じる。
科学の信頼性を守る
アンダーソンとムーアは、行動を起こさなければ、質の低い科学や偽の科学を出版する問題は悪化する一方だと強く考えている。世界で毎年発表される学術論文の数は急速に増えており、すでに数百万本に達している。偽論文の割合も大きく上昇している。悪化する状況に突き動かされ、彼らは最近、問題に注意を喚起し解決策を提案するために、著書『How the Internet Disrupted Science』を出版した。
学術出版業界の元リーダーとして、彼らは大半の人々よりも問題を深く理解している。前向きな変化に向けた提言は、実践的なものから意欲的なものまで幅広い。彼らは、出版社が研究者と科学文献の利用者の間に立つ信頼された仲介者であることから、中心的な役割を果たすべきだと考えている。
実践的な面では、オンラインジャーナルが、自らが奉仕する特定の科学コミュニティに再び焦点を当てることを求めている。出版本数を優先するのではなく、ジャーナルは高い信頼性を備えた科学コンテンツを主眼に戻すべきだと彼らは主張する。
より議論を呼ぶ提案として、研究者のアクセスを確保しつつ、科学論文がより広い一般社会に届く過程に一定の摩擦を導入することも挙げている。最終的にはさらなる開放性を支持しながらも、一般の人々が必ずしも科学論文を理解し解釈する能力を備えているわけではないことを彼らは認識している。論文を一度でも見たことがある人なら、その意味はよくわかるはずだ。
誤りを含む学術論文は、これまでも常に存在してきた。変わったのは、質の低い科学や偽の科学を広める速度、規模、影響、そしてインセンティブである。科学的プロセスを乗っ取ろうとする者たちは、かつてないほど多くのツールと大きな到達力を手にしている。イデオロギー、政治、商業上の思惑は科学的意思決定に影響を及ぼし、個人と社会に深刻な結果をもたらし得る。
インターネットは科学情報を配布しやすくし、商業的インセンティブは一部の出版社にとって出版本数を増やすことをより魅力的にし、AIはいま、信頼できない研究を劇的に生み出しやすくする脅威となっている。
解決策が何であれ、第一歩は拡大する問題を認識することだ。その後、科学そのものの信頼性を損なうことなく、技術が科学的発見の限界を押し広げ続けられるようにする方法を見いだす必要がある。
