生物兵器の通信販売──ディストピア映画に出てきそうな話だ。だがAI（人工知能）のリーダーたちは、強力なAIモデルが、感染力の極めて高いウイルスや毒素の設計に使われ、それが遺伝子合成プロバイダーからオンラインで注文される。そうした事態をますます懸念している。
業界全体が足並みを揃える異例の動きとして、テック業界の最も熾烈な競合各社が、合成DNAとRNAのすべての注文にスクリーニング（審査）を義務付けるよう議会に求める公開書簡に共同署名した。合成DNAとRNAは、ウイルスや、細菌などほかの病原体の構成要素だ。警告は率直である。AIモデルが賢くなるにつれ、生物兵器が悪意ある手に渡るのを防いできた技術的なガードレールは急速に崩れつつある。
OpenAIのアルトマン、Anthropicのアモデイなどが署名に名を連ねる
この働きかけを主導する連合の顔ぶれは、テック界の「名鑑」のようだ。Foundation for American InnovationとInstitute for Progress（IFP）が取りまとめ、署名者には以下をはじめ多くが名を連ねる。さらにStripeのCEOパトリック・コリソンや、数十人のバイオセキュリティ専門家も加わった。
OpenAI：サム・アルトマン
Anthropic：ダリオ・アモデイ
Google DeepMind：デミス・ハサビス
Microsoft AI：ムスタファ・スレイマン
Meta：アレクサンダー・ワン（チーフAIオフィサー）
最近公表されたAI関連の警鐘文書としてはこれが2本目だが、注目度は前回よりはるかに低い。先の文書には同様の著名人の多くが署名していた。その中でAnthropicは、最先端のAIモデルが人間の制御を逃れ得る兆候を示していると警告し、国際的に協調して安全策を整えるよう求めていた。
審査をすり抜ける有害タンパク質、AIが7万5000種超作成
生物兵器に関する警告は、はるかに差し迫っている。歴史的に、壊滅的な生物剤の作成には、高度に専門化され、入手も難しい組織的知見が必要だった。生成AIモデルはその知見を備えており、その専門性を「民主化」しかねない。書簡は、悪意ある主体が生物兵器を手にするのを阻んできた障壁が、単に消え去る可能性があると警告する。さらに書簡は、マイクロソフトのある研究も引いている。AIが有害タンパク質バリアントを7万5000種超作成し、それらが世界規模でスクリーニングを回避したという内容だ。
合成生物学企業は、カスタム遺伝子配列の「プリント」を専門としており、顧客から送られたデジタル設計図に基づいてヌクレオチドを使用しカスタム配列を作成する。顧客は企業のウェブサイトを通じて希望するDNA配列を含むデジタルファイルを提出し、企業は物理的な遺伝物質を顧客の住所に発送する。もし誰かがAIを使って危険なウイルスを設計すれば、その遺伝コードを通信販売で注文し、物理的な生体材料を自宅の玄関先まで届けさせることができてしまう。
この穴を塞ぐため、連合は、合成生物学企業に対し、顧客の身元確認、危険物質の有無に関する遺伝子配列のスクリーニング、購入記録の厳格な保存を求める、単一で盤石な連邦基準を望んでいる。万一すり抜けが起きた際に、捜査当局が追跡できる記録（ペーパートレイル）を残すためだ。
