アンソロピックのアモデイCEOも警告
アンソロピックのダリオ・アモデイCEOをはじめとする科学者や経営者らは、AIが生物兵器に悪用される危険性を指摘する。AIを使えば、悪意を持つ者が安価かつ迅速にDNAを合成し、未知の（あるいは過去の）ウイルスを生成したり、感染力が強くワクチンが効かない病原体を設計したりすることが可能になる。センター・フォー・AIセーフティによると、こうしたウイルスが世界中で同時にばらまかれた場合、公衆衛生のインフラが対応する前に人類が生存できないほどのパンデミックを引き起こす恐れがある。アンソロピックは先週、生物兵器を開発しようとする複数の悪意ある企てを阻止したと報告している。
さらに防衛アナリストらは、世界の主要国が核兵器の早期警戒システムやドローン管理システム、サイバー防衛システムにAIを組み込むことによって、人間の意思決定者が完全にプロセスから排除される可能性を指摘している。その結果、予期せぬソフトウェアの不具合などが発生した場合、指導者の判断を仰ぐことなく軍事行動が引き起こされかねないという。
開発の減速を求めた前述の動きについて、アンソロピックのアモデイは12日、企業は最先端モデルの開発意欲を意図的に抑える必要があると述べた。この見解には後にOpenAIのサム・アルトマンやスペースXAI（旧xAI）のイーロン・マスクも同調している。
アモデイは、このまま無秩序に成長を続ければ、来年にも自律型AIの群れが世界のインターネット・インフラを乗っ取る可能性があると警告した。さらに13日に放送されたCBSのインタビューでは、AI業界は「この技術にリスクがあるという事実について人々を騙してきた」と断言し、自身も「これほど急速に進化が進んだ場合に実際にどうなるかを、ただ完全に理解しきれていなかった」と語っている。
