スタンフォードのチームが実際に作ったもの
まず、落ち着いてほしい。スタンフォードの研究チームが作ったのは、人類を脅かす「スーパー病原体」ではない。彼らが作ったのはバクテリオファージ、つまり人間ではなく細菌に感染するウイルスだ。抗生物質の効かない耐性菌による感染症は年間200万人ほどの命を奪っており、ファージ療法（バクテリオファージに細菌を殺させる治療法）は、医学がそれに対抗しうる数少ない武器の1つである。
必要に応じてより優れたファージを設計できるようになるのは、それ自体は歓迎すべきことだ。
実験の進め方も責任あるものだった。学習データからヒト・動物・植物・真菌に感染するウイルスの配列をあらかじめ取り除き、人間や植物に感染するウイルスの作り方をモデルが学べないようにしている。作業も、管理された施設の中で行われた。
だが、そこで示された能力そのものが物語っている。
この論文が示したのは、AIがバクテリオファージを作れるという事実だけではない。生成AIが、文章による指示と学習データさえあれば、実際に機能するウイルスのゲノム、すなわち筋の通った動く遺伝的な指令一式を書き上げられるようになった、ということだ。これはもはやSFではない。そして重要なのは、この技術が対象を選ばないという点である。ファージに向ければファージができる。別のものに向ければ、別のものができる。今回それより悪いものが生まれなかったのは、この研究者たちがそれを作らないと決めたからにすぎない。
世界中のあらゆる国のあらゆるチームが同じ選択をすると考えるわけにはいかない。
AIでウイルスを「ディープフェイク」する
そこに問題がある。
もちろん、安全装置がないわけではない。DNAの合成を請け負う企業は、出荷の前に危険な配列を洗い出すスクリーニング・ソフトを走らせている。危険に見えるものを注文すれば、本来はその時点で止められるはずだ。
問題は、AIが検知システムをすり抜ける遺伝子配列を設計できてしまうことだ、とグエンは説明する。遺伝子の文字を並べ替えつつ、機能は残す。すると病原体は変装したままフィルターを通過しうる。私たちの免疫をすり抜けるのと同じ理屈だ。
中身の致死性は同じで、指紋だけが違う。これが生物学版のディープフェイクである。
「タンパク質やDNAの新しい配列を生成できるように訓練された、こうした生物学の基盤モデル（foundation model。大量のデータで学習させ、幅広い用途に応用できる汎用のAIモデル）を使えば、検知システムをかいくぐるものを意図的に設計させることが、実際にできてしまうわけです」と彼は言う。「これは多くの人が、とりわけ国家安全保障の担当者が、ますます強く懸念している点です」
バイオセキュリティの専門家が夜も眠れなくなるのは当然だろう。設計する力が、守る力をはるかに追い越して走っている、とグエンは言う。生物災害への備えには三つの柱がある。感染の広がりを早期に検知すること、その原因が自然発生なのか研究所からの流出なのか攻撃なのかを突き止めること、そして間に合う速さで対抗手段を製造することだ。彼によれば、私たちはそのいずれにおいても、はるかに遅れている。
