AIへの警鐘──法規制を求める声
多くのバイオセキュリティ研究者、公衆衛生当局者、合成生物学者は、生物学の世界におけるAIの進歩の速さと、規制の枠組みの欠如に警鐘を鳴らしている。
ジョンズ・ホプキンス大学健康安全保障センターのバイオセキュリティ専門家であるトーマス・イングルスビー博士とモーリッツ・ハンケ博士は、サイエンス誌に論評を寄稿し、今回のスタンフォード大学の研究はAIが危険な生物兵器を発明できる段階に達したことを証明するものだと警告した。彼らは今後の研究に関する厳格な法整備を求め、人間、動物、農作物に影響を与える病原体に対して同様の生成技術を使用することを違法とすべきだと主張している。
ハンケはニューヨーク・タイムズの取材に対し、「『もっと感染力や致死性が高くなるように改変したインフルエンザゲノムを作って』などと指示することも可能になるだろう」と語った。
脅威は誇張だとの反論も
一方、インペリアル・カレッジ・ロンドンで合成生物学を教えるトム・エリス教授は、ガーディアンに対し、人間に影響を与える生物兵器の製造がそれほど簡単だとは思わないと語った。Evoが作成したウイルスは「文字通り、最も小さく、最も作るのが簡単なゲノム」であると指摘し、遺伝子データへのアクセスに単純な制限を設けるだけで大きな効果が期待できると述べている。
生物学向けAIの可能性と脅威
科学者たちはここ数カ月間、生物学に特化したAIソフトウェアの可能性を制限すべきかどうか議論を重ねてきた。この技術が有益な研究を加速させると主張する声がある一方で、適切な安全策が講じられなければ、同様のモデルが悪用され、生物学的脅威の特定、設計、最適化に加担してしまう危険性もある。そんな中、複数の大手AI企業は非営利団体「フロンティア・モデル・フォーラム」を共同で設立した。その目的のひとつは、AIによる生物学的リスクを研究し、安全基準を策定して、最先端のモデルが生物学的に悪用される可能性を減らすことにある。
病原体を組み立てる手順と、散布の方法まで示したAIチャットボット
こうしたAIモデルに関しては、これらが新たな脅威を生み出す可能性への懸念に加え、危険な病原体に関する情報を求める悪意のある人間がその知識を得ることを簡単にするとの指摘の声も多い。実際、科学者らがAIチャットボットに一連の質問を投げかけたところ、致死性の高い病原体を組み立て、公共の場で拡散させる方法を段階的に指南する回答が得られたとの報道もあった。
