規則も規制も法律も、これを想定していない
こうした事態を監督する規制当局くらいはあるだろうと思うかもしれない。一応、ないわけではない。
米国は最近、連邦政府の資金を使った機能獲得研究（gain-of-function research。既存のウイルスなどに手を加えて感染力や病原性を高める研究）を禁止した。だが、この枠組みが想定しているのは、科学者がすでに存在するウイルスを改変するという脅威である。そもそも存在しなかった新しいゲノムをAIが書き上げるという事態については、ほとんど何も定めていない。
しかも、それは連邦の研究資金についての規則にすぎず、一般の法律ではない。さらにいえば、対象は1つの国であって、世界全体ではない。
バイオセキュリティ研究者のトーマス・イングルズビーとモーリッツ・ハンケは、この論文が出たあとにこう書いている。生成AIを使ってウイルスのゲノムを書き上げる能力は、すでに存在する。しかし、それを安全な方向へ導くための統治の仕組みは存在しない、と。
もちろん、この技術は善のためにも強力だ
実際、この技術がもたらしうる恩恵は本当に大きい。
DNAを読み書きできるAIがあれば、病気をより早く見つけ、1人ひとりに合わせた薬をより速く設計し、次のパンデミックが来たときに必要な抗ウイルス薬をその場で製造できるようになるかもしれない。どれもすばらしいことだ。
だが、その裏側にある負の可能性もまた、とてつもなく大きい。
興味深いことに、賭け金が上がるにつれて、グエン自身も「公開」についての考えを変えた。Evoはオープンに公開された。学習に使ったDNAのデータはもともと公になっていたからだ。だが、Radical Numericsが開発しているより新しく強力なモデルは、安全上の懸念から非公開にされている。
とはいえ現実には、私たちは種として、ウイルスを作るのが難しい世界を前提に、健康を守るための検知の仕組みを築いてきた。この数カ月で、それはずっと簡単になった。だからこそ危うい。
サイエンス誌の論文に登場する16個のファージは、あなたにも私にも無害だ。しかし、それを可能にした機械は、ほかのこともやってのける。しかも、私たちが足並みをそろえて対応できる速さを超えて。
パンドラの箱は、もう開いてしまった。
そうである以上、私たちにこの技術の開発をやめる道は事実上ない。良心の呵責を持たない誰かが悪用するのに備えて開発を続け、AIが設計したディープフェイク・ウイルスが最初に広がり始めたときに間に合うだけの、十分に強く十分に速い防御を用意できることを願うしかない。その中核となる能力なら私たちにも作れる、とグエンは言う。新しい脅威に対抗する新しい薬を、求めに応じて短時間で設計するAIシステムである。
それが必要になる日は、どうやら遠くない。
