これに対しアーメドは、分散型AIを潜在的な懸念材料として挙げた。「ここで私にとって最大の懸念は、これらのLLMに、ほぼ同等の性能を持つオープンソース版が登場しているという事実です」と彼は述べた。「つまり、私たちは数十、数百のモデルに制御を実装することを期待することになる。そうなると非常にややこしくなります」
対してラッセルは、ビジネス界での自身の経験について語った。経営幹部は、AIソリューションがどのように機能するかについて十分な知識がないまま、それに頼ることがある。「彼らは『無害な小さなAI』だと思い込んで、赤ちゃんのトラを大量に導入しています。私が州政府や地方自治体、そしてこの種の中堅企業への支援を通じて痛感した最も重大な課題の1つは、経営幹部が自分たちの行っている仕事、開発者が構築しているエージェント型ソリューション、あるいはさらに悪いことに、自社のために構築を依頼した企業の仕事について、まったく可視性を持っていないという点です」
彼女は透明性の必要性を訴えた。「私は、運用AIが研究段階のかわいらしい小さなモデルとして始まり、大規模な推論モデルへと変わっていくのを見てきました。その間ずっと、構築に携わっていた全員が『そんなものを誰かが使うとは思わなかった。ここまで使われるとは思っていなかった』という反応でした。そしていま、企業も同じ問題を抱えています。だからこそ、社内のシステムに対する可視性（透明性）を確保することが鍵なのです」
制御は正しいのか、そもそも可能なのか
これに続いてウィスナーグロスが発言し、システムをよりよく制御するために計画するという考えに、ある意味で一石を投じた。彼の発した「私たちは今日、AIとともにどう前進すべきなのか」という核心的な問いは、私を深く考えさせた。
「制御という言葉が、そもそも適切な動詞だとは思いません」と彼は述べた。「私たちは強力な知性を『制御』しようとすべきではないと思います。相互アライメントのプロセスが生じるはずです。もっとも、私は『アライメント』という言葉を使うことにすら身構えます。そこには多くの知的な負荷が伴うからです。しかし、私たちはAIを私たちに合わせており、AIは私たちをAIに合わせています。この物語が制御で終わるとはまったく思いませんし、制御が持つべき正しいメンタルモデルだとも思いません。これはすべて、人類と超知能の共同アライメント、そして防御的な共同スケーリングに関するものです」
ウィスナーグロスとラッセルはいずれも、AIのための指針となる憲章として、組織の「憲法」に言及した。ウィスナーグロスはラッセルに、組織は人間の従業員を「制御」しているのかと問いかけた。この指摘は議論に新たな視点を与えた。ラッセルはOKRを持ち出して応じた。OKRとは、「Objectives and Key Results（目標と主要な結果）」の略称で、企業やチーム、個人が目標を定め、その達成度を管理するための目標管理フレームワークを意味する。
