英国年金専門家協会（Society of Pension Professionals）が今週、会員がAIとどう向き合うべきかを示すフレームワークを発表した。これは、AIという技術が生活のほぼあらゆる側面に急速かつ深遠な影響を及ぼしつつあることを改めて示すものだ。
このガイド『Governance in the Age of AI: A Practical Framework for Responsible Leadership（AI時代のガバナンス：責任あるリーダーシップのための実践的フレームワーク）』は、受託者としての中核的な受託者責任は変わらないと強調する一方、年金制度の運営、投資戦略、加入者とのコミュニケーションに対するAIの影響拡大を監督するため、既存のガバナンス、データセキュリティ、リスク管理の枠組みを適応させるよう年金制度のリーダーに促している。その支援として、同ガイドは一連の原則を示している。内容は本質的に、AIの用途ごとに関連するリスク水準を評価し、意思決定に人間の関与を確保し、AIを利用したサイバー攻撃を防ぎ、公開AIツールによる不正確または「幻覚」に基づく助言に基づくメッセージの拡散を防ぐことにある。
年金制度の受託者、アドバイザー、管理者などを会員に持つ同協会は、こうした形で、急速に発展する技術の力を活用しつつ、その進展が解決する以上の問題を生まないようにする他の取り組みと歩調を合わせているといえる。たとえば、AIツールが生成した虚偽・幻覚判例を弁護士が法廷書類で相次いで使用した事態を受け、イングランドとウェールズのソリシター（法廷外弁護士）の職能団体であるロー・ソサエティは今月、この技術の利用について警告する記事を公開した。同記事は、こうした問題はこの技術を管理するために必要なセーフガードとガバナンスプロセスが整備されていないときに生じると指摘し、ツールが組織内にどのように組み込まれているか、それを取り巻く構造、そしてAIが生み出すものを検証するために個々の弁護士が受けている支援（研修を含む）について、法律事務所は問い直す必要があると述べている。記事はさらに次のように続ける。「AIツールは法務業務を大幅に効率化する可能性を秘めている。しかし、法的権威は極めて重い意味を持つため、引用と論理は常に検証する必要がある。AIを使ったからといって規制上の枠組みが変わることはなく、成果物には常にあなた自身が責任を負うことになる」
ケイト・パイはPAコンサルティングでグローバル・デジタル・トラスト＆サイバーセキュリティ責任者を務める。筆者との最近の電話取材で、彼女はこの技術のメリットとデメリット、とくにサイバー攻撃との関連について次のように総括した。「AIは人間よりも上手く、そして迅速にAIを取り締まることができる。システムを監視し、脅威をより早く検知できる」。彼女はさらに、AIはデータセット周辺のノイズを取り除き、異常値や、行動の変化さえも捉えることができると付け加えた。だが同時に、「人間がループの中に入っていること」と、AIの自律性を制限する「十分なガードレール」が不可欠だとも強調した。そうでなければ、「エージェント型AIはあっという間に手に負えなくなる」と彼女は語った。
規制対象業務から離れた領域でも、AIの導入方法をめぐる懸念は存在する。ロンドンを拠点とするAIネイティブなデジタルプロダクトスタジオ、Studio Grapheneの創業者リタム・ガンジーは今年、筆者のインタビューに対し、この技術を導入した多くの企業が期待した投資収益を得られていないと語った。「多くの人がツールに対するガバナンスを持っていない」と彼は述べ、組織内に「必要な構造」を整えないままツールを使っている例もあると付け加えた。
もちろん、AIは特定の領域では確かな成果をもたらす。たとえばPAのパイが指摘するように、AIの計算能力の大きさによって、リーダーは自社の防御体制を見渡し、サイバー攻撃がどこから来る可能性があるかを予測し、攻撃者が成功しにくい状況を先手を打って作ることができる。
しかし、より一般的にいえば、大きな成果は、リーダーが困難を直視し、AIがIT予算内の別のソフトウェア開発のようなものではないと理解しない限り訪れないと思われる。それははるかに大きな存在であり、企業のあり方そのものに関わる問題だ。Studio Grapheneのガンジーが語ったように、AI時代にはビジネスを再発明する必要がある。だが、それは一部の人々にとってあまりに破壊的な変化となるだろう。
