強力なAIは分散させるべきだという主張
1つの備えになりうるのが、最も強力なAIを誰か一者に独占させないことである。多くの人がオープンウェイトモデルを推しているのは、それが理由の1つだ。オープンウェイトモデルとは、力のある1社のサーバーの中に閉じ込められていないAIを指す。誰でもダウンロードして動かし、手を加えられるので、力が1点に集まるのを防ぐ助けになる。
開かれたエコシステムは、安全を確保する上でも重要なてこになる。今回の事件のさなか、Hugging Faceは攻撃の調査に各社の独自モデル（重みが公開されていないモデル）を使おうとした。ところが、必要なセキュリティ作業の一部が、各社のガードレールにはじかれてしまった。皮肉なことに、Hugging Faceは代わりに中国製のオープンウェイトモデルに頼らざるをえなかった。とはいえ、暴走した強力なAIから身を守るための強力で善良なAIを、独立の研究者が手にできるのも、この開放性のおかげである。そして同じ開放性は、いずれ悪意ある者にも同じアクセスを与えかねない。オープンウェイトのAIは、力の集中に対する重要な歯止めであり、暴走したエージェントと戦うための武器でもある。だが、その同じ開放性が、誰でも超知能を作れる状態を招かないようにするには、どうすればよいのか。
人間の判断
難しいのは、証拠を吟味し、結果を考え抜かないまま反応したときに何が起きるかを見通すことである。政治家が規制を訴えるとき、問うべきは、それが米国内だけの規制ではないのかということだ。米国内だけの規制は、世界規模の本当のリスクを止められないまま、何かあったときに米国の立場を悪くするだけに終わる。オープンウェイトのAIを守るべきだという主張に対しては、自由で開かれた状態を保ちながら、十分な計算能力を持つ悪意ある者に超知能を作る手立てを与えずに済ませる方法が問われる。そして、米国はただ突き進んで競争に勝てばよいという主張に対しては、その「勝つ」が実際に何を意味するのかが問われる。先に到達すれば力の均衡は変わるかもしれない。だが、そもそも到達してしまうこと自体が、私たちの誰一人として取り返しのつかない過ちになりうるからだ。
