アレックス・ウィスナーグロスは、まったく異なる角度から意見を述べた。彼は筆者の同僚であり、物理学者かつコンピューター科学者で、AIスタートアップPhysical Superintelligenceを創業し、その主任科学者を務める人物だ。彼は、最近の出来事がこの技術の過剰規制につながる可能性があると示唆した。オルソンが示した銀行強盗の例を用い、フロンティアラボ、公衆安全、AI開発をめぐる問いは、一見するほど単純ではないかもしれないと論じた。
「一般論として、効果的利他主義は、フロンティアモデルの安全性を評価する役割を担い、特定のアジェンダを推進する重要な評価ラボの背後で糸を引いている可能性があります」とウィスナーグロスは述べた。
3人目のパネリストであるゾヘイブ・アーメドは、Hugging Faceの件に話を戻し、オブザーバビリティ（可観測性）が「期待を裏切った」と指摘した。彼は音声生成AI・セキュリティ企業Resemble AIの創業者兼CEOである。
「システムを流れるデータを実際に理解していなければ、制御を構築することは本当にはできません」とアーメドは述べた。1200のエージェントが互いに通信のために投稿を行っていたというニュースについての発言である。「データはすべてそこにあります。ご存じの通り、あらゆるデータが通るためのインフラは構築されています。制御が非常に難しいのは、LLM（大規模言語モデル）を把握すること自体が本当に困難だからだと思います」
制御を求める
このアーメドの発言を受けて、オルソンはAI安全性をめぐる核心的な論争を浮かび上がらせた。彼の発言は非常に的を射ているため、そのまま引用したい。
「あなたは『私たちには制御しきれない』と言いました。私にとって、まさにそこが根本的な問いなのです。果たしてそれは本当に確実なことなのでしょうか? もしそれが事実だとしたら、あまりに深刻な事態です。最先端の研究（フロンティアラボ）に身を置きながら、『これを制御することはできない。だが、それでもIPOを果たし、1000億ドルを調達し、2兆ドルの評価額を叩き出さなければならない。制御不能だが、やるしかない』と言っているようなものだからです。一方で、正しくプログラムさえすれば制御は可能だと考える人たちも多くいます。社会は『制御できるもの』の実現を期待しているのだから、私たちはそれをやり遂げるべきだ、というわけです。つまり、私たちには『制御を可能にすること』を彼らに強く要求するという選択肢はあるのではないでしょうか」
