AIの安全性、実運用における責任はリーダーが負うべきだ
マーク・ザッカーバーグが今週初め、メタ（Meta）がAIの「最前線」でライバルに追いついたと宣言した背景には、大規模な破壊をもたらす可能性があると一部で恐れられているこの技術に対して、より厳しい規制は不要だという明らかな確信があった。彼はある報道機関に対し、「AIが勝手に一人歩きするという擬人化されたAI観よりも、通常のガードレールを設けてエンジニアリングし、責任を持って構築できる技術だという考え方に、私はずっと近い」と語ったとされる。
それ自体は、さほど意外ではない。だが、すでに十分な数の事案が起きている。特に、7月には1000を超えるOpenAIの自律エージェントによるハギング・フェイス（Hugging Face）のハッキングがあり、6月には別のOpenAIエージェントがオーストラリアのメディケア（公的医療保険制度）統計ポータルに侵入し、政府システムに対する攻撃として知られる初の事例となった。破滅的な予測を正当化するほどではないとしても、少なくとも懸念を抱かせるには十分である。
これは、プロバイダーがモデルをより安全にするまで、組織がAIの導入を停止すべきだという意味ではない。明らかに、この技術にはコスト削減にとどまらない大きな便益をもたらす可能性がある。そして競争の激しさを考えれば、企業は「安全宣言」を座して待つ余裕はない。ただし、それはリーダーが自社でAIを導入する際に中心的な役割を担う必要があることを意味する。
この論点は、シスコ（Cisco）の150億ドル（約2兆3700億円）規模のサービス事業を率い、顧客体験向上のためにAI活用を進める同社の取り組みで中心的役割を担うリズ・セントーニが、LinkedInに最近投稿した記事で示されている。彼女は、大手AI企業がより訓練されたエージェントを備えた、より安全なモデルを開発したと主張しても、それが必ずしも企業の安全性向上を意味するわけではないと指摘した。「安全なモデルは、安全な導入を保証しない」と彼女は書いた。「実運用環境でAIの安全性に何が必要かを知っているのは、実在する企業の内部で、実際の顧客ネットワーク上にAIを導入している人々だ。そこでは、誤った回答が現実の結果をもたらす」
今月初めの筆者とのインタビューで、彼女はさらにこう述べた。「制約に対する責任は、モデル提供者ではなく企業側にある」。彼女はAIエージェントを「新しいインターン」のように捉えるべきだとし、企業は最初からすべての権限を与えるべきではないと強調した。代わりに、エージェントが何をすべきで、どこへアクセスすべきかを経営陣が決定する。そうすれば、何か問題が発生したときに、そのエージェントが何に触れたかが把握できると彼女は述べ、広範な権限を持つエージェントよりも、信頼できる権限の限られた安全なエージェントを運用する方が良いと付け加えた。
だが、安全性が最近大きな注目を集めている一方で、AI推進派にとって懸念すべき問題はそれだけではない。調査によると、組織は多額の投資を行っているにもかかわらず、少なくとも短期的には、その投資に見合う大きなリターンを得るのに苦慮していることが多い。その一因は、関係する複雑さにある。AIは単に後付けできる別の技術ではない。企業の運営方法に大きな変化を求めるものだ。また、大規模な雇用喪失に関する多くの予測を踏まえれば当然ながら、この技術に対する従業員の抵抗も決して小さくない。
ニーナ・カロエは、AI時代に従業員が成功を収めるための支援に注力するソフトウェア企業ゼンサイ（Zensai）のチーフ・ヒューマン・サクセス・オフィサーであり、同社幹部2人との共著書『The Human Success Playbook: A Leadership Tale for the Age of AI』の著者でもある。彼女の役職名が示すように、彼女はAIによって実現される新しい形態の組織において、人間が継続的に、そしておそらくより重要な役割を果たすと考えている。今月初めのインタビューで彼女が筆者に語ったように、中心となる課題は人間とAIがどのように共存して働いていくかを解き明かすことだ。そのためには組織図を再考する必要があると彼女は言う。多くの人々が有用性に限界を感じ始めていた従来のヒエラルキーに代わり、AIによって企業はバリューストリームを中心に組織を構成できるようになる。「AIは顧客に対して適切な人材を配置するのに役立つ」と彼女は付け加え、組織のピラミッド構造がダイヤモンド型に置き換わるだろうと予測した。「多くの人々がAIを活用してより多くのことをなし遂げ、より戦略的なレベルで機能できるようになるだろう」
結局のところ、AIの導入を成功させる鍵は、ほとんど何事にも当てはまるように、信頼に行き着く。セントーニが指摘するように、従業員が使用を求められているツールを信頼していなければ、回避策を編み出すことになる。明らかに大きな可能性を秘めている一方で、まだ初期段階にある技術の利用を促すには、透明性のあるフィードバックが不可欠である。
