「私たちは目標と主要な成果を設定します」と彼女は述べた。「それを細分化します。従業員をそれに基づいて測定します。企業におけるエージェントの憲法も、まったく同じことをするのだと思います。ただし、ほとんどの組織は、そのレベルの記述や定義すら行っていません」
岐路に立つ進展
アーメドは、オープンソースの取り組みについては非常に楽観的な見方を示し、コーディングの脆弱性を防ぐフレームワークや、予防的安全措置に対する企業の賛同が広がっていることを挙げた。「多くの優れたオープンソースの取り組みが進んでいます。私たちは比較的初期段階にいると思います。明らかに、さまざまなプロジェクトやスタートアップの間には多くの重複があり、異なるアプローチがあります。その分野で構築を進めているスタートアップは多いと思います」
すべてをつなぎ合わせる
議論が終わりに近づくと、ラッセルは自身の主張の一部を繰り返し、近く刊行予定の著書『Scaling Responsible AI』について語った。ただし、ウィスナーグロスにも締めくくりの考えがあった。
「監査人を誰が監査するのかというメタな問題があると思います」とウィスナーグロスは説明した。「通常の産業では、監査人に関する懸念は、彼らがリスクを過小評価することです。たとえば、債券の信用格付け機関で見られるのはそうした状況です。AI業界で起きているように見えることは、それと正反対です」。彼によれば、本当のリスクは、現在の開発慣行に異議を唱える任務を負った人々の間に、特定のアジェンダが存在することかもしれない。
「彼らはより強い規制を求めています」とウィスナーグロスは続けた。「それはおそらく、壊滅的リスクや存亡リスクに対する責任を拡散させ、民間産業ではなく政府に押し付けようとしているからかもしれません。ですから、これは私たちが文明として早急に対処しなければならない構造的な歪みだと思います。そして、次の一手が完全に明白ではないとしても、最終局面は100％明白だと思います。それは防御的な共同スケーリングです。つまり、最終的にはAIを監視するのはAIになるということです」
さらにウィスナーグロスは、このシナリオはAI以前の伝統的な人間文明で起きることを映し出していると論じた。「大都市をつくるなら、大規模な警察組織が必要になります。同様に、私たちが超知能文明を構築するのであれば、超知能の監査人や評価者が必要になります。そして、次の数歩で問われるのは、過去1週間に見られたかもしれない倒錯を助長することなく、どうやってここからそこへ到達するのか、ということだと思います」
このAIサミットで語られた議論は、おおよそ以上のようなことだ。これらの多様な考えについて考え、自分がどこにたどり着くかを見極め、引き続き注目してほしい。
