大規模言語モデル（LLM）の台頭により、強力なツールがあらゆるデスクトップで使えるようになった。だが、能力があることと信頼できることは同義ではなく、流暢であることと正確であることも同じではない。捏造された引用ひとつ、規制の読み違いひとつが現実の損害を引き起こしかねない業務においては、新たなより厳格な基準が求められつつある。トムソン・ロイターはこの高次の基準をフィデューシャリー・グレードAI（Fiduciary-Grade AI）と呼ぶ。注意義務や規制上の監督責任を負う専門家のために、特別に設計されたAIである。
汎用AIでは埋められないギャップ
多くの汎用モデルは、公開ウェブコンテンツ、ライセンス供与された素材、その他の情報源を含み得る幅広いデータセットで訓練されている。もっともらしい文章を生成し、文書を要約し、広範な質問に答える能力は目覚ましい。だが、オープンウェブから得られたコンテンツが常に信頼できる情報源であるとは限らない。正確な情報、意見、古い資料、誤りが混在し得るからだ。専門家が、広範でばらつきのある情報環境に基づくモデルに依拠すれば、その不確実性を引き継ぐ一方で、結果に対する責任は全面的に負い続けることになる。
これが問題の核心である。注意義務や規制上の監督責任を負う専門家は、追跡も検証も弁明もできないシステムに説明責任を委ねることはできない。汎用AIは、出所を特定しにくく、独立した検証も難しい出力を生成し得る。そのため、ブレインストーミングには有用でも、規制当局、裁判所、顧客の精査に耐えなければならない業務の土台としては不十分になりかねない。このリスクは机上の空論ではない。Mata v. Aviancaでは、汎用チャットボットが捏造した6件の判例を引用した準備書面を提出したとして、連邦判事が2023年、ニューヨークの弁護士2人に制裁を科した。
信頼できるAIを他と分ける4つの原則
トムソン・ロイターは、フィデューシャリー・グレードAIを「何を生み出すか」ではなく「どう構築され、何にアクセスすることが許され、その出力がどう統制されるか」で定義する。同社のフレームワークは、フィデューシャリー・グレードAIを汎用システムから切り分ける4つの設計原則を示している。
1. 信頼できるコンテンツに基づいていること。 実質的な出力は、オープンインターネットから収集された情報ではなく、キュレーションされた領域特化型のコンテンツに由来しなければならない。すべての重要な出力は、有資格の専門家が独自に所在を確認し、引用し、検証し、信頼できる情報源まで追跡可能であるべきだ。専門家が確認できる形でAIが根拠を示せないなら、その基準を満たしていない。
2. 実質的な人間の専門知識。 認定された主題専門家が、システムの開発と継続的な監督に関与しなければならない。事後的に意見を求められるだけでは不十分だ。これは、専門職の用語、ワークフロー、リスク上の考慮事項を踏まえて設計・検証されたシステムと、単にその言葉遣いを模倣するシステムとの違いである。
3. 設計段階からのプライバシーとセキュリティ。 データ保護は、上乗せされたポリシーではなく、アーキテクチャの構造的な特徴でなければならない。この種の業務では、クライアントの機密保持は譲れない。機密性の高い案件データを共有の訓練パイプラインに送るAIは、どれほど高性能に見えても、責任ある導入が難しい可能性がある。
4. 透明かつ検証可能な推論のための設計。 出力は、それに責任を負う専門家が追跡し、検証し、弁明できるものでなければならない。主導権は人間にあり、AIの役割は専門家の判断を拡張することであって、代替したり不透明にしたりすることではない。
これらはいずれもマーケティング上の主張ではなく、設計上の制約であり、トムソン・ロイターはそれぞれが検証可能だとしている。総合すれば、汎用AIが専門業務の要求水準に及ばない領域が見えてくる。
フィデューシャリー・グレードAIをどう評価するか：購入者のチェックリスト
専門業務向けAIを購入するうえで最も難しいのは、洗練されたデモが、重要な点のほぼすべてを覆い隠し得ることだ。管理された環境で完璧なメモを作成するモデルでも、実際には未検証の情報源から引用したり、機密入力を漏らしたり、専門家が弁明できない出力を生成したりする可能性がある。注意義務や規制上の監督責任を負う専門家は、契約に署名する前に、その下にあるアーキテクチャを精査する必要がある。このチェックリストは、その出発点となる。
- ベンダーの台本ではなく、実際の案件でテストする。編集済みだが代表的な業務サンプルをシステムに渡す。提示された出典を自分で開いて確認できるか。不確実性を明示するのか、それとも取り繕うのか。
- 演出されたデモに注意する。ベンダーが用意した事例でしかうまく機能しないシステムは、フィデューシャリー・グレードではない可能性がある。
- 調達前にデータの取り扱いを書面化する。自社の入力が共有モデルの訓練に使われるのか、案件データがどこに保存されるのか、契約終了時にどう扱われるのかを確認する。
- 曖昧な保証を退ける。「エンタープライズグレードのセキュリティ」といった一般的な主張は、それだけでは答えにならない。データの取り扱いについて、具体的かつ契約上のコミットメントを求めるべきだ。
- 専門家の関与を示す証拠を求める。スライド上の名前だけでなく、専門家がどのようにシステム形成に関わったのか、法律や規制の変化に応じてどのように最新性を保っているのかを確認する。
- 引用を自分で検証する。いくつかの出力について情報源を精査し、有資格者がそれぞれの所在を確認し、検証できることを確かめる。
目標は、そのシステムが、自身の業務に課されるのと同じ精査に耐えられることを確認することにある。
トムソン・ロイターがこれらの原則をどのようにCoCounselに適用しているかを確認してほしい。CoCounselは、信頼できるコンテンツに基づき、専門家によって形作られ、すべての出力を追跡、検証、弁明できるよう設計されたAIアシスタントである。責任重大な専門業務においては、「ほぼ正しい」は結局のところ間違いにほかならないからである。
