エージェント型AIの時代において、人類がシンギュラリティに向かって突き進み、ロボットの仲間が私たちの生活に登場しようとしている今、あなたは「AIフォーグッド」についてどう考えるだろうか。
これはよく使われるフレーズだが、その意味は何だろうか。なぜなら、ミュージカル「ウィケッド」で言及されているように、「善」やその他のものは、単なる言葉であってはならず、何かを意味しなければならないからだ。
さて、このフレーズ自体を見てみると、多くの異なる関係者によって、さまざまな異なることを言うために使われていることがわかる。
世界的な取り組み
「AIフォーグッド」をグーグル検索して最初に気づくことの1つは、このフレーズが国連による著名なキャンペーンのタグラインとして機能しており、良い結果を促進することを目的としているということだ。このプロジェクトには、イベント（今年のサミットには、レイ・カーツワイル氏が登壇する予定だ）、集約された洞察、そしてこれらの技術を活用するために、私たちの理解を深めることを目的とした協力が含まれている。
また、著者やグループが「AIフォーグッド」というフレーズを使って、自分たちの概念を説明しているのを目にするかもしれない。例えば、マイクロソフトの副会長兼社長であるブラッド・スミス氏は、これらの問題を検討することに専念する同社の「AIフォーグッド・ラボ」の起源を説明する中で、次のように述べている。
「今こそ、緊急の行動を起こすべき時だ。より多くのことができる私たちは、より多くのことをすべきだ。しかし、私たちが直面する課題は複雑であり、1つの企業、セクター、または国だけでは解決できない」
問いを投げかける
さらに、スタンフォード大学人間中心AI研究所（HAI）の共同創設者兼共同ディレクターであるジェームズ・ランデイ氏が、ダボスで語った言葉がある。彼は聴衆に「AIフォーグッド」が彼らにとって何を意味するのかを考えるよう促しながら、これまでに私たちが成し遂げた進歩のいくつかを記録した。ランデイ氏は次のように切り出した。
「AIは、直接のユーザー以外の人々にも副作用をもたらすことが多い」と彼は述べた。「（おそらく）それは、私が命を救う治療を受けるか、別の患者が受けるかを決定するAIシステムかもしれないし、『この地域に消防資源を配置するか、別の地域に配置するか』を決定するAIシステムかもしれないし、あるいは、そのシステムを使用することさえない別の国の人々によってラベル付けされた取引データを使用しているAIシステムかもしれない……そして、私たちがする必要があると思うのは、ユーザーだけを考えることを超えて進む必要があるということだ。AIシステムが本当に善いものになることを望むなら、AIシステムによって影響を受けるより広範なコミュニティについて考えなければならない」
社会的影響
ランデイ氏は、人間のユーザーの自己イメージ、アルゴリズムによる扱いと結果におけるバイアスと格差、そして収束する社会的真実の追求などの問題についてさらに語った。
「成功し、普及するAIシステムを構築する場合、『それらは社会にどのような影響を与えるか』について考えなければならない」と彼は述べた。「（これを）社会レベルから見る別の方法は、『文化的観点から、これらの大規模モデルに埋め込まれた価値観は何か』、あるいは『それが意味することさえ、異なる文化や社会では非常に異なる位置づけになる可能性がある』について考えることだ。そして、私たちは実際にそのような質問を分析し、モデルやモデル内のデータの基礎となるアーキテクチャさえも問うための技術を使い始めることができる」
グローバル環境における主権的AIの必要性
ランデイ氏は、ある意味で、すべてのユーザーのエンパワーメントと尊厳のための闘いは、グローバルな舞台でAIによって国家が扱われる方法と相関関係があると示唆した。
「主権的AIについて考える必要があるのは、『自国のAIを管理するという国の目標は何か』ということであり、これはこの場合の『主権』の一般的な定義のようなものだ」と彼は述べた。「したがって、異なる目標がある。それは国家安全保障の目標かもしれない。私たちは、誰かが私たちのAIを遮断して、安全保障の観点から私たちの国を傷つけることができないようにしたい。それは経済的観点からかもしれない。私たちは、実際に私たちの国に来る、または私たちの国に留まるAIから価値を得ていることを確認したい」
これを評価する中で、彼はインフラの管理、データの管理、そしてメディアへのAIの潜在的な影響から生じる物語の管理などの側面に分解した。
「現在、異なる国々がこれについて異なるレベル、異なる目標について話している」とホドソン氏は述べた。「彼らは皆、同じものの1つの定義について話しているわけではない。だから本当に重要なのは、私たちが話している『主権』のタイプは何か、そしてそれをどのように実装しているかを理解することだ。最後に、主権的AIについて考えるとき、私たちは、最初に話した目標、つまり国家安全保障を保護することや文化的言語を表現することを、人々が（システムを）保護するために使用しているそれらの異なるメカニズムから分離したいかもしれない」
一部の人にとって、これの多くはスパイ活動のように聞こえるかもしれない。
「主権的AIは、超秘密の地下データセンターを守るジェームズ・ボンドの国際スパイチームのように、現代的でクールに聞こえる」とオラクルのアラン・ザイチック氏は、広範な記事の中で、AI主権への戦略、要因、アプローチを分解しながら書いている。「しかし、ボンド映画とは異なり、主権的AIは現実的で実用的であり、国家安全保障以上のものに影響を与える。堅実な主権的AIガバナンスポリシーと技術的デューデリジェンスは、企業資産の保護、顧客プライバシーの保護、そして悪意ある行為者に対する市民のコンピューティングインフラの強化に役立つ」
実際には、これはより物流的な問題だ。AI管理のための国家間の「熱い戦争」や、国家ネットワークを破壊する努力はないかもしれないが、国々は準備しなければならない。理想的には、国連のような機関を通じて国々が協力することになるだろう。その理由の1つは、将来、敵対的なAIからの脅威に直面する可能性があるかもしれないし、ないかもしれないからだ。一般的に言えば、私たちはこれがすべてどのように展開するかについて多くを知らない。しかし、「AIフォーグッド」を促進できれば、私たちは正しい軌道に乗っている。続報を待たれたい。
