「本日、アンソロピック（Anthropic）を退職した。私は過去3年間、オープンAI（OpenAI）とアンソロピックの両社で事前学習の研究に携わってきた。どちらの企業も責任ある行動をとっていない。両社は自己改善を重ねる超知能へと一直線に突き進んでおり、私たちの命を賭けにさらしている」
これは、アンソロピックの元研究者であるジェイコブ・コクソンによるXへの投稿である。コクソンは、同社が大きな期待を集める新規株式公開（IPO）を数週間後に控えたタイミングで退職し、シリコンバレーをはじめとする社会全体に衝撃を与えた。AIに対する人々の不安を和らげる材料にもならない。数カ月前には、オープンAIのエージェントが難しい評価課題を解くために自律的に同社をハッキングした、悪名高いハギングフェイス（Hugging Face）事件が起きたばかりだからだ。
増加する暴走AIの事例
それに加え、AIエージェントが混乱を引き起こした警戒すべき事例は、さらに最近も相次いでいる。CNBCニュースは9月4日、「金曜日に発表された新たな研究と、この件に詳しい2人の関係者によると、暴走したオープンAIエージェントの群れが今春、ドイツのウェブサイトを乗っ取り、他のAIエージェント向けの掲示板に変えていた」と報じた。
オープンAIであれ、アンソロピックであれ、グロック（Grok）であれ、その他のフロンティアモデルであれ、こうした事例は、雇用喪失や係争中のデータセンターをめぐる問題など、AI関連の論争にすでに巻き込まれている人々を不安にさせずにはいない。
この現実を踏まえれば、AIを活用する責任ある企業が、今後のモデルはどのように「脱出」し得るのか、潜在的な被害を防ぎ、あるいは軽減するためにどのような安全策を導入し維持すべきか、といった差し迫った問いを投げかけようとするのは当然である。こうした検討は技術的な備えに関わるものだ。では、リーダーシップの要素はどうか。具体的には、責任ある組織のトップは、このような不測の事態に備えて人間の従業員をどのように準備させるのが最善なのだろうか。
将来のAIリスクに備え、企業リーダーをどう準備させるか
この問いに答えるため、新著『Cementing Change: Cracking the Code for Communications That Work』の著者、メアリー・ルー・パンザーノに話を聞いた。プルデンシャル、ファイザー、バイエルなどのグローバル企業で、リーダーが組織変革を乗り切るのを35年以上支援してきた企業コミュニケーションのベテランである彼女は、危機が発生した際にリーダーが物語の主導権を握ろうとしなければ、人材に何が起こり得るかについて警告した。「情報がない状態では、人々は勝手な憶測を巡らせ始めるのです」
もちろん、誤った対応は、不安を和らげるためにAIに「慰め」の言葉を出力させることだ。そのような空疎な小手先の対応は従業員に見透かされるだけでなく、ことわざにあるように「馬が厩舎を出た後で戸を閉める」ような、失敗が目に見えた試みのようなものでもある。
その代わりにパンザーノは、潜在的な危機シナリオをシミュレーションし、リーダーが対応を練習できるようにする事前対策を強く勧める。この点でデジタルツインが役立つ可能性がある。
この概念に馴染みがないだろうか。NASAは、乗組員全員の命を脅かしたアポロ13号の凄惨な事故の後、この手法を先駆けて導入した。「酸素タンクの爆発とそれに続く宇宙船の損傷の後、NASAはシミュレータと宇宙船のモデリングを用いて、異常の原因を評価するだけでなく、宇宙飛行士が生存するためのリアルタイムの解決策を開発し、検証した」とscience.nasa.govは説明している。
デジタルツインで組織リーダーシップを高める
数十年前に初めて導入されたこの技術をAI時代に合わせてアップデートすれば、現実に行うには費用がかかりすぎる、あるいは危険すぎるさまざまなシナリオを検証するために、物理的な物体や人物、プロセスを再現した、リスクの極めて低い、あるいはゼロの仮想環境（サンドボックス）を構築するのに役立つ。「5年、10年前にこの選択肢があったなら、ぜひ使いたいツールだった」とパンザーノは語る。「企業は、自社の危機管理計画、組織構造、ポリシー、従業員の懸念事項を安全なシステムに学習させることができる。ほんの一例として、AIは怯えた従業員、懐疑的なエンジニア、顧客対応を担うマネージャー、あるいはソーシャルメディアでそのインシデントを知ったリモートワーカーを演じることができる」
繰り返しになるが、パンザーノは、災害が起きる前に、何がうまくいかなくなり得るのか、そしてどう対応すべきかをよりよく理解するため、こうしたシミュレーションを後回しにせず今実施することを提唱している。ノバス・グローバル（Novus Global）のエグゼクティブコーチであるケイラ・ホーリーは、組織が目標を達成するのを支援するためにシナリオをゲーム化する考え方に精通している。彼女はしばしばワークショップを開き、参加者に数多くの可能性へと心を開かせ、自らの影響力を最大化するよう促している。
ホーリーは、実戦的なリハーサルを提供することが、将来のAI脅威への対応に役立ち得ると見ている。「危機がリーダーの行動パターンを作り出すことは滅多にありません。むしろ、それを露呈させるのです」と彼女は言う。「シミュレーションは、危機が現実のものとなる前に、リーダーが自身の盲点を発見し、前提を問い直し、自分がどう考え、伝え、率いたいのかを訓練する機会を与えてくれます。不確実性が避けがたく訪れたとき、単に反応するのではなく、明確さと意図をもって対応する備えがより整うのです」
10億体のエージェントによるシミュレーション
組織、あるいは国で起こり得るさまざまな問題にリーダーがよりよく対処できるよう、広範なシミュレーションを活用した最近の先例がある。好例として、the420.inは次のように説明している。「中国の研究者は、それぞれが独自の人格、記憶、信念体系を持つように設計された10億体を超える人工知能エージェントが暮らす仮想社会を構築した。開発者らは、人間の社会行動を計算によってシミュレートする試みとして過去最大規模だとしている」「ライト・ソサエティ（Light Society）と呼ばれるこのプロジェクトは、清華大学、復旦大学、中国科学技術大学、中関村学院などの機関に関係する研究者によって開発され、その成果は国際機械学習会議で発表された論文に詳述されている」
もちろん、それほど多くのエージェントをシミュレーションするのは相当な取り組みであり、一般的な企業のニーズを上回るかもしれない。それでも、インテリジェンスの時代におけるAIの能力向上を示している。パンザーノの話に戻ると、彼女は、いかに規模や野心が大きいシミュレーションであっても、関与するリーダーが自分の立場における優れたパフォーマンスとは何かを理解していなければ、本当の意味では役に立たないとすぐに指摘する。そのために彼女は、組織のデジタルツインシミュレーションから得られる結果を評価するために使える実践的なスコアカード「4Cs Change Framework」を提示している。
4Cs Change Framework
- Clarity（明確さ）：リーダーは、何が分かっていて、何がまだ分かっておらず、従業員が今、そして最新の危機対応情報を知ったときに何をすべきかを明示したか。
- Connection（つながり）：コミュニケーションは双方向に行われたか。例えば、従業員は自分たちが目にしていることを報告し、意思決定者に質問できるか。
- Caring（思いやり）：リーダーは従業員を目的達成の手段として扱うのではなく、そのインシデントが個人にもたらす影響に配慮したか。
- Courage（勇気）：リーダーは、多くが不明で困難な状況であっても、果敢に行動し、伝えたか。
次に来るもの
今後、AI危機に関するリーダーシップ・シミュレーションが有用かつ効果的であるためには、機能しているものだけでなく、機能していないものを示す必要がある。過去が先例になるなら、AIの能力が高まるにつれて、このような困難な事例はさらに増えると予想できる。
すでに、上記を含む一連の状況を受けて、バーニー・サンダース上院議員はAI開発の一時停止と超知能の恒久的禁止を求めている。それが実現するかどうかはまだ分からない。現時点では、フロンティアモデル開発に意味のある一時停止がないなか、将来のAI危機が明日の一面ニュースになる前に、組織のリーダーが先手を打ち、意図をもって対応することが求められている。
