米国務省がAIリスクに関する詳細な報告書を持っていることをご存知だろうか？「Defense in Depth: An Action Plan to Increase the Safety and Security of Advanced AI（防衛の深層：先進的AIの安全性とセキュリティを高めるための行動計画）」は2022年後半に委託されたプロジェクトで、米国の研究所における先進的AI研究で何が起こり得るかを調査するものだ。
おそらくあなたはこの取り組みについて聞いたことがないだろう。それは残念なことだ。なぜなら、この報告書は専門家たちが必要だと主張していることに非常に関連しているからだ：この新たに進化する分野に対するガードレールと、AIの急成長する能力に関して、我々人間が制御していることを保証するものだ。
そこで登場したのが、Gladstone.AIという知名度の低い企業が担当する政府支援プロジェクトだ。なぜ米国務省がこの特定の請負業者を雇ったのか興味を持った私は、Gladstoneの創設者であるジェレミーとエドゥアール・ハリスが、2021年からすでにGPTやその他のモデル、そしてそれらが示すリスクについて政府関係者にブリーフィングを行っていたことを知った。
どうやら、国務省の国際安全保障・不拡散局のスタッフがAIのエスカレートする脅威の可能性を認識し、救援信号を送ったようだ：Gladstoneが契約を獲得した。
報告書の内容は？
この規模の報告書なので、当然ながら多くの内容が含まれている。Gladstoneはこの報告書のために200人以上の専門家にインタビューし、国家安全保障問題を掘り下げ、AIが核兵器の出現に匹敵する不安定要因になる可能性が高いことを認めている。それは部分的に、AIが致命的なサイバー攻撃や生物兵器などにつながる力を持つためだ。主な発見の一つは、大きな脅威が、AIシステムの開発で行き過ぎてしまう小規模な独立研究所から来る可能性が高いということだ。
具体的な脅威として、Gladstoneは以下を挙げている：
- 自律型サイバー攻撃
- AIを活用した生物兵器の設計
- 偽情報キャンペーン
関連する報道が示すように、研究者たちは「整合性が取れていないか、超人的な能力を持つAIシステムは、権力を求める行動を示し、事実上制御不能になる可能性がある」と示唆している。
それを念頭に置いて、報告書の重要な提案の一つは、米国政府が国内で開発されるAIシステムのトレーニングデータに厳しい制限を設けるべきだということだ。
政治的意志
ここで疑問が生じる：これまで自由市場政治で運営されてきた、数億人の大陸社会である米国において、民主主義はこの種の規制を支持するだろうか？
それはおそらく認識に関係している。一方では、AIは米国の一般市民の一部にとって非常に不人気だ。他方では、「自由の国」としての米国の概念と自由市場イデオロギーのために、私たちはインターネットのような他のテクノロジーを抑制することができなかった。
スパイダーマン、チャーチル、エレノア・ルーズベルトの言葉を言い換えれば、大きな自由には大きな責任が伴う。
報告書からのさらなるアドバイス
この問題にどう対処すべきか？報告書は研究者が「努力の方向性」（Lines of Effort）またはLOEと呼ぶものを含む多層的な戦略を提案している。
5つのLOEがある：
- LOE1 – 暫定的な安全対策の確立
- LOE2 – 能力と容量の強化
- LOE3 – AI安全研究の促進
- LOE4 – 法律による正式化
- LOE5 – 安全対策の国際化
報告書はまた、これらの目標をどのように追求するかについても詳述している。チームによれば、LOE1はリアルタイムモニタリングのためのAI観測所の設立、「責任あるAI開発と採用」（RADA）安全対策の策定と要求、機関間安全タスクフォースの形成、そして輸出規制を含むAIサプライチェーンの管理を含む可能性がある。LOE2に対する提言には、ワーキンググループ、トレーニングプログラム、早期警戒システム、緊急時対応計画が含まれる。
研究に関しては、報告書は安全性とセキュリティに焦点を当て、LOE4については、これらの計画を実行に移す規制機関を推奨している。そして、AIが人類を破壊する力を持つ異質な力であるかのように、国際的な利害関係者と集団的に協力するよう呼びかけている。現実的に言えば、AIはそうなる可能性がある。
現場での組織的取り組み
米国の機関がこのビジョンに追いつくことを心配しているなら、少なくともすでにいくつかの関連する取り組みが進行中だ。例えば、人工知能安全研究所コンソーシアム（AISIC）がある。これは商務省のNISTの下で、200の組織を集めており、テクノロジー企業、学術機関、政府を含み、AI安全基準の開発、研究の共有、フロンティアモデルの取り組み、リスク軽減について議論している。
バイデン政権の商務長官ジーナ・レイモンド氏がAISICを創設した連邦法令について、その目的を次のように述べている：
「バイデン大統領の画期的な大統領令を通じて、私たちはアメリカが最前線にいることを確実にします…一緒に、これらの課題に立ち向かい、アメリカの競争力を維持し、AIを責任を持って開発するために必要な測定基準と基準を開発できます。」
— ジーナ・レイモンド
つまり、AIに対処するために米国政府では「舞台裏で」物事が進行していると言えるだろう。実際には舞台裏というわけではない—情報はすべて公開されている—しかし、私たちがアメリカの生活の差し迫った優先事項に目を向けるにつれ、このニュースはスープの中に埋もれがちだ。しかし、ほとんどの人はこの種のAIの抑制が低優先事項ではないことに同意するだろう。あなたはどう思うか？
