今週初め、複数の主要AI企業がホワイトハウスで、AIの安全性に関するコミットメントに署名した。これらのコミットメントの多くは、同じ企業の一部が2023年にバイデン政権のホワイトハウスで署名したものと似ている。2023年のコミットメントと比べて注目すべき違いはいくつかあるものの、両者が抱える課題は同じだ。目標が大まかな表現で示されるにとどまり、成功をどう測定すべきかが説明されていないのである。
AI安全性の役割
AIの安全性は最近、頻繁にニュースで取り上げられている。主な理由は、この夏、一部のフロンティアAI研究所のAIエージェントが「暴走」する事案が発生したためだ。IBMによると、AI安全性には「AI技術が人類に利益をもたらし、潜在的な害や負の結果を最小化する形で設計・利用されることを確保するための実践と原則」が含まれる。最近のAI安全性コミットメントの目的は、自主規制に依拠することで、おそらく同様の、またはそれ以上に深刻なAI安全性関連の事案が将来起きないようにすることにある。繰り返すが、2023年と2026年のコミットメントが実際に目指す目標は、「米国民と世界のために前向きな未来を築く」「技術が意図された通りに作動しているという公衆の信頼」といった曖昧な表現を除き、明示されていない。
AI安全性の重要性については一定の議論がある。一方の端では、AIは人類に存亡上の脅威をもたらすと主張する人々がいる。他方の端では、トランプ大統領を含め、こうした脅威は作り話だと考える人々がいる。ただし、その中間にはかなり広い領域がある。筆者は最近のForbes記事で、適切に設計されれば、AIをめぐる安全措置は消費者の信頼を高め、AI製品やサービスの企業・消費者による導入を実際に促進し得ると論じた。
2023年と2026年のAIコミットメント
2023年のコミットメントは、当初Amazon、Anthropic、Google、Inflection、Meta、Microsoft、OpenAIが署名し、その後、追加の企業にも拡大された。内容は以下の8項目である（簡潔にするため要約）。
1. 主要な一般公開の前に、モデルのリスクを社内外でテストする。
2. 他社、政府、研究者、市民社会と安全性に関する情報を共有する。
3. さまざまな手法によってモデルの重みを保護する。
4. バグ報奨金制度などのプログラムを通じ、脆弱性の報告を促す。
5. ウォーターマークやその他のツールを用いて、AI生成の音声や動画にラベルを付ける。
6. 透明性レポートを公表する。
7. 子どもへのリスクを含む社会的害に対処する研究に投資する。
8. 教育と労働力の準備を支援しつつ、気候、健康、サイバーセキュリティなどの課題に向けたフロンティアAIを開発する。
2026年のコミットメントは、当初Anthropic、Google、Meta、Nvidia、OpenAI、xAIが署名した。内容は以下の4項目である（簡潔にするため要約）。
1. 社内管理を用いて、フロンティアモデルの能力とアラインメントを監視する。
2. 社内の監督チームを用いて、管理が機能していることを確認する。
3. 外部監査人または評価者と提携し、それらの管理および監視システムが意図された通りに機能しているかを評価する。
4. 社内外のチームが提起した問題が対処されているかを評価するため、独立した取締役会委員会を指定する。
2023年のコミットメントは、フロンティアAIの安全性、セキュリティ、透明性、社会的リスク、公共の利益に及ぶ。これに対し、2026年のコミットメントはガバナンスと保証に的を絞っている。さらに、2026年の文書は「標準とベストプラクティスを確立する」ための定期会合にも言及している。
標準をどう評価するのか
2023年と2026年のAIコミットメントに共通する問題は、AI安全性のための標準を整備することを目指しながら、その標準をどのように評価すべきかをどちらも説明していない点にある。より新しい2026年のコミットメントに注目してみよう。コミットメントは、標準が順守されるようにするため、社内、社外、企業統治の各メカニズムを活用する枠組みを示している。しかし、そもそもその標準とは何なのか。ここでは、各社が自ら決めるという考え方である。結局のところ、それが自主規制の本質だからだ。
より微妙な問題として、企業が自社の標準に従ったかどうか、そしてその標準が機能したかどうかを、どのように評価すればよいのか。外部評価者は、企業が約束した監視や取締役会への報告を実施したかどうかを判断できるかもしれない。しかしそれは、それらの手続きが実際に公衆の信頼を高めたのか、あるいはAIの有益な導入を可能にしたのかを判断することとは異なる。その問いに答えるには、経済学者が反事実と呼ぶもの、つまり企業が別の一連の実践を採用していた場合、あるいは何も採用していなかった場合に何が起きていたかの推定が必要になる。
ジュリア・レイン氏は最近、商務省の国立標準技術研究所（NIST）向けの論文で、この問題に取り組んだ。レイン氏は、標準を策定する者が、目標、その達成をもたらすと期待される活動、測定可能な成果を明示する「変化の理論」を示し、そのうえで適切な反事実と照らして結果を評価することを提案している。ただしレイン氏は、自主的な標準を評価する際の課題も指摘している。標準を採用する企業は、採用しない企業とすでに体系的に異なっている可能性があるからだ。したがって、採用企業と非採用企業を単純に比較しても、観察された改善が標準によって引き起こされたかどうかは示せない。代わりにレイン氏は、評価にはマッチング、差分の差分法、合成コントロールなど、確立されたさまざまな計量経済学的手法を用いるべきだと論じている。
テクノロジー企業にAI安全性標準の実施を求めるのであれば、その標準が掲げた目標を実際に達成しているかどうかを測る手段が必要だ。それは、目標を事前に明確化し、適切なデータを収集し、その標準が安全性、信頼、有益な導入を改善しているかどうかを評価するうえで、NISTやその他の独立機関を支援することを意味する。
