今回のコラムでは、組織が現代の生成AIや大規模言語モデル（LLM）を採用して様々な機能やサービスを実行する際に、AIリスク評価を行うことの重要性を強調する。
背景は以下の通りだ。公的機関と民間機関は、最新のチャットボットを活用しようと急いでいる。一部の組織は、進める前に費用便益分析（CBA）をまとめることを完全にスキップしている。これは賢明でない省略であり、AI導入の大失敗に終わる可能性が高い。費用便益分析を実施することを選択する組織でさえ、AI採用に関連するリスクを組み込むことを怠り、プロセスを軽視することが多い。彼らの費用便益ROIは誤った印象を与え、あらゆる種類のAIの落とし穴や失敗に導く可能性がある。
AIリスクが存在するという広範な認識により、多数のAIリスクフレームワークが生まれている。組織は一般的に、現代のAIの取得と展開を追求する際には、AIリスクフレームワークを活用することが奨励されている。そのようなフレームワークの1つが、ハーバード・ケネディスクール（HKS）のタウブマン州・地方政府センターによる有益な助言報告書で最近説明された。私はこの論文の重要な要素を説明する。報告書に示されたケーススタディは公共部門の設定を強調しているが、民間部門の使用にも容易に適用できる。
それについて話そう。
このAIブレークスルーの分析は、最新のAIに関する私の継続的なフォーブスコラムの一部であり、様々な影響力のあるAIの複雑さを特定し説明している（リンクはこちらを参照）。
AIリスクは豊富にある
ジョージ・パットン将軍は、十分に計算されたリスクを取ることによって常にリスクを意識すべきだと有名に宣言した。彼はそれを無謀さとは全く異なるものと特徴づけた。したがって、吸収する意思のあるリスクについて事前に考えるべきだ。既知のリスクと未知のリスクの可能性を認識すべきだ。人はリスクとリスクテイクに関して自分の限界を知らなければならない。
私がリスクの性質と範囲を分析的に記述可能な現象として取り上げるのは、AIに関しては、AIを採用することがどれほどリスクが高いかを判断する必要性が高まっていることを強調するためだ。AIはリスクフリーではない。それどころか、AIは多くの大規模で、時には隠れた、かなりの規模のリスクを提示する。AIリスクの可能性のある影響を最初に考慮することによって、AI採用への一般的な無秩序な突進に反対することは難しい場合がある。そうすることは賢明であり、AIリスクを削減または軽減する無数の賢明な方法を前面に出すこともできる。
AIリスクフレームワーク
読者は、私が米国標準技術研究所（NIST）によって考案され公布された標準化されたAI RMF（リスク管理フレームワーク）の熱心で長年の支持者であることを知っている。私は、策定の初期段階でボランティアレビュアーとして開発に小さな役割を果たしさえした。AI RMFに関する私の詳細な報道については、こちらのリンクを参照してほしい。
AI RMFは頻繁に使用されているが、唯一のフレームワークではない。研究者と実務家は、自分たちの視点と好みに合った様々なAIリスクフレームワークをしばしば策定してきた。74の厳選されたフレームワークの便利なオールインワンデータベースが最近オンラインに投稿された。AIリスクリポジトリとして知られるこのAIリスクフレームワークには、1,725の明確に識別されたリスクのセットが含まれている（今月Natureに掲載された「The AI Risk Repository: A Meta-Review, Database, And Taxonomy of Risks from Artificial Intelligence」と題する論文による。この論文はデータベースとその作成方法の概要を提供している）。
HKS AIリスクフレームワーク
次に、私の目を引いたAIリスクフレームワークに飛び込む。AIリスクフレームワークの著者の1人は、ハーバード・ケネディスクールのマーク・フェイガン氏だ。読者は、彼と私が以前に公共部門における専門的なAI政策に関する先駆的な論文を共同執筆したことを覚えているかもしれない。私の報道はこちらのリンクを参照してほしい。
彼は最近、「AI For The People: Including Risk In Your AI Calculus」と題する注目すべき有益な報告書を共同執筆した。著者はマーク・フェイガン、セリーナ・ゴン、ファビアン・ウルマー、ハーバード・ケネディスクール タウブマン州・地方政府センター、2026年1月。AIリスク管理に関する以下の重要なポイントが含まれている（抜粋）：
- 「市政府は、AI採用のリスクにどのように対処するかに取り組んでいる」
- 「リスク要因は広範囲に及ぶ。何よりもまず、健康と安全へのリスクがある」
- 「その他のリスク考慮事項には、内部対外部/住民向けアプリケーション、影響を受ける人口の規模、決定の重要性、結果の可逆性、技術の堅牢性と信頼性が含まれる。明らかに検討すべき多くの考慮事項がある」
- 「我々のフレームワークとモデルは、リスクの観点からAIユースケースを評価する構造化された方法を提供する」
私は、AIリスクフレームワークの重要な要素と、AIリスク計算を生き生きとさせるケーススタディについて簡単に説明する。
注目すべき2つのケーススタディ
AI採用を検討している市のリーダーの立場に立ってみてほしい。彼らの市はこれまでAIの使用を選択していない。彼らは慎重だ。彼らは注意深い。彼らは物事を正しく行いたいと考えている。
初期の審議の後、2つの潜在的な機会が、現代のAIを活用する最初の試みとして適していると思われる：
- （1）公立学校への入学を選択する際に一般市民を支援するAIチャットボットの採用
- （2）住宅補助金の適格性を判断する際に内部スタッフを支援するAIチャットボットの採用
これらは生成AIの全く異なる使用法だ。
最初のケースは、顧客向けのAI使用だ。人々は、子供の学校入学に関する難しい決定に対処するためにAIを利用する。AIは多数の混合言語を処理できなければならない。AIにより、一般市民が24時間365日オンラインで有用なアドバイスを得られるようになり、入学に関する問い合わせへの対応に関連する人員配置も削減されることが期待されている。
2番目のケースは内部に焦点を当てている。スタッフは現在、市の住宅補助金の適格性を規定する複雑で入り組んだ一連の規則と格闘している。そうするには過度な時間数が必要であり、エラーが発生しやすい。AIを使用することで、作業がより速く、より簡単に、より正確になると信じられている。
費用便益分析とそれ以上
直接的なアプローチは、これら2つのケースのそれぞれについて、AI採用の潜在的なコストをリストアップすることだ。次に、時間の節約、労働力の削減などの潜在的な利益の見積もりが行われる。従来のROIを計算すれば、市のリーダーは、進めるかどうかについて合理的に決定を下すことができると推定される。
残念ながら、AIコンテキストにおける従来の費用便益分析は、AIリスクに関連するコストを捉えないことが多い。費用便益分析は、AIが誤作動したり、AIに隠れたバイアスが含まれていたりすることなどを考慮しない、きれいな絵を不注意に描く可能性がある。
この論文は、4つの主要なステップで構成されるAIリスクフレームワークを提案している：
- ステップ1：リスクを列挙する
- ステップ2：リスクレベルを評価する
- ステップ3：リスクの影響を推定する
- ステップ4：リスクを費用便益分析に組み込む
4つのステップの概要
ステップ1は、品質、効率、公平性などの様々なカテゴリーでリスクを列挙することで構成される。これには、次のような的を射た質問をすることが必要だ：
- AIの出力は信頼性が高く正確な情報を提供するか？
- AIアプリケーションは、決定に対する責任やバイアスの告発への露出など、法的リスクを生み出すか？
- AIユースケースは、リーダーシップが今日と明日効果的に統治する能力を脅かすか？
幅広いAIリスクが関与する可能性がある。想像できるすべてのAIリスクに対処する必要はない。AIリスクは、AIがどのように利用されるかにおいてもっともらしいものに絞り込むべきだ。これら2つのケーススタディにおける潜在的なリスクには、AIモデルのドリフト、適切なコンテキストの欠如、データプライバシーの侵害、アルゴリズムによる差別、説明可能性の弱点（およびその他）が含まれる可能性がある。
ステップ2は、特定されたAIリスクの程度または規模を評価することを含む。これは、最小リスクから最高リスクまでのスペクトラムで行うことができる。できれば、これは定量的に実施されるが、定性的評価も使用できる。リスクに優先順位を付ける。潜在的な悪影響とその可能性の確率を見る。重みはしばしばAIリスクに割り当てられる。該当する場合は、デルファイアプローチまたは群衆の知恵を使用してAIリスクを評価する。
ステップ3は、リスクを軽減する方法を明確にすることとともに、リスク影響の推定だ。サンプル質問：
- チャットボットの精度を高めるために、どのようにより厳密にトレーニングできるか？
- モデルは時間の経過とともにどのように学習して精度を向上させることができるか？
- 人間はどのようにして不正確さをより速く見ることができるか？
影響、確率、コスト見積もりを特定し、期待される結果の完全な計算につながる。
ステップ4は、リスクのコストの予測を費用便益分析に組み込む。全体として、費用便益分析は真のトレードオフのはるかに堅牢な絵だ。したがって、市のリーダーはより情報に基づいた決定を下すことができる。
私は、これら2つのケーススタディについてこのAIリスク評価を行うことの説明的な詳細を便利に含む完全な助言報告書を読むことを強く勧める。
AIリスク評価とCBAの実施
AIリスクフレームワークの全体像を共有したので、興味深いと思われる追加の角度を追加したい。
通常、費用便益分析と対応するAIリスク評価は手作業で行われる。これにはオンラインスプレッドシート機能の使用が含まれる可能性があるが、主に手動で考案され確認される。
この種の重要なタスクを実行することを目指す人は誰でも、プロセスを支援するために生成AIに頼ることを検討すべきだ。ChatGPT、GPT-5、Claude、CoPilot、Gemini、Grokなどの汎用LLMは、そうする際に役立つ可能性がある。注意深く進めてほしい。私がそう言うのは、思考の側面をAIに引き渡す誘惑がしばしばあるからだ。その精神的な罠に陥らないでほしい。メカニクスの多くは、適切に行われた場合にのみ、AIによって適切に実施できる。
これに関する私の4つの重要な推奨事項は次の通りだ：
- （1）適切なプロンプトを使用する
- （2）作業を再確認する
- （3）AIハルシネーションに注意する
- （4）プライバシー、使いやすさなどに注意する
まず、使用することを選択したLLMで適切なプロンプトを使用することを確認してほしい。プロンプティングは努力を成功させるか失敗させるかを決定する。疑わしい方法でCBAとAIリスク評価を求めるプロンプトを与えると、結果は良く見えるかもしれないが、AIがあなたが見るものを歪めた可能性が高い。AIの出力を額面通りに信じないでほしい。AIを最適にプロンプトする方法については、こちらのリンクで私の詳細な指示を参照してほしい。
第二に、AIの出力を細かく調べてほしい。再確認には時間がかかりすぎて、自分で作業を行った方がよいと主張する人もいるかもしれない。CBAとAIリスク評価が小さい場合、それは当てはまるかもしれないが、ほぼすべての複雑な設定において、AI使用は報われるだろう。
第三に、AIが間違いを犯すことに警戒してほしい。AIがハルシネーション（幻覚）を起こすと、間違いが忍び込む可能性が高まる。これは、AIが作り話をしたり、何もないところから何かを作り上げたりすることを意味するフレーズだ。AIハルシネーションを検出して対処する方法については、こちらのリンクで私の説明を参照してほしい。
第四に、このタスクに生成AIを使用すると、潜在的なプライバシーの問題が生じる可能性があることを念頭に置いてほしい。生成AIは単に公開されているものか、それとも市が精査し保護した市がライセンスしたバージョンを使用しているか？CBAとAIリスク評価中のAIとのやり取りは有用だったか、それともAIはその問題に苦労しているように見えたか？など。
AIリスクと報酬
AIには二重使用効果がある。一方で、AIの採用は非常に有益である可能性がある。AIの採用を積極的に検討していない人々は、機会を逃している。それは砂に頭を突っ込む姿勢だ。
同時に、AIには、AIに達成させようとしていることを損なう可能性のある欠点がある。それには二重使用効果がある。利点を明確にし、同様に欠点を明確にすることを確認してほしい。AIリスクを評価する。評価を本格的な費用便益分析に組み込む。賢明で情報に基づいた決定を下す。
賢者への言葉は、AI採用に向けた熱狂を煽る群集心理があり、洞察に満ちた分析の様子もなく行動することがあるということだ。とにかく進めるのがマントラだ。あなたはその押しに抵抗するために勇敢でなければならないだろう。トーマス・エジソンの素晴らしいアドバイスによれば：「幸運とは、機会が計画と出会ったときに起こることだ」。
AI採用の機会が生じたら、適切に計画すれば、幸運は前方の道にあるだろう。
