ロビン・フェルドマン氏は、UC法科大学サンフランシスコ校のアーサー・J・ゴールドバーグ特別法学教授であり、AI法・イノベーション研究所の所長を務めている。
AIに関して最も重要なのは「検証」である。私たちはどうすれば何が起きているのか、あるいは何が起きているのかを本当に理解できるのか、信頼できるのだろうか？
検証なしでは、社会はAIの可能性から恩恵を受けるために必要な信頼を構築できない。何らかの方法で、私たちが現実だと思っているものが本当に現実であるという確信を持てるようにしなければならない。
問題点
AIが私たちが見聞きするものを生成または操作できるようになった今、しかも多くの場合、何かが改変されたという目に見える兆候もない中で、どうすればデジタルコンテンツを信頼できるだろうか？情報の雪崩は目がくらむほど曖昧だ。
業界が様々な形の信頼技術を開発する様子を見ることはできるが、散発的なアプローチでは、社会がコンテンツの出所と検証可能性に確信を持つために必要な広範な保証をもたらす可能性は低い。高品質な製品であっても、品質にばらつきのあるAIを使用する表面上は類似した競合他社の結果によって、そのブランド認知が損なわれる可能性がある。
消費者は情報の出所と、AIによってどの程度生成または修正されたかについての明確さを求めている。私たちはすでにこのような保証のモデルを持っており、グッドハウスキーピングのシールのような民間の信頼マークから、FDAのような機関による公的品質監視まで様々だ。
何を検証すべきか？
単に「AIを使用したか？」と尋ねるだけでは不十分だ。AIツールはすでに色調調整から文法修正まで、あらゆる場所で使用されている。もはやイエスかノーかの問題ではない。
代わりに、効果的な認証機関はデジタル情報の一連の指標を確立し、人々が消費している情報の「栄養品質」を理解する方法を提供するだろう。時間の経過とともに、栄養成分表示と同様のサイズと親しみやすさを持つ標準化された小さなボックスが、情報製品を評価するための普遍的に認識される信頼マーカーになる可能性がある。
これは、検証機関がコンテンツが「真実」を表しているかどうかの分析を提供することを示唆するものではない。私は絶対的な真実は存在すると信じているが、誰かがそれが何であるかを私に教えてくれることは信頼していない。
代わりに、検証機関は情報源と方法に関する重要な詳細を開示し、それによって消費者がアイデアの市場内で独自の情報に基づいた選択をできるようにするだろう。
最低限、これらの詳細には以下が含まれるべきだ：
• 情報源は何か？ 情報源が特定できない場合、その製品はすでに疑わしい。
• これは実在の人物が実際に行っていることか？ 想像力や風刺のための余地を残しつつ、明確にすることができる。
• AIはどの程度出力の作成や調整に使用されたか？ 単純な音声編集で人々を批判したくはないが、視聴者がAIで生成されたコンテンツを見るかどうか、またどの程度まで見るかを選択できるようにしたい。
TikTokやYouTube Shortsの場合、これはユーザーがクリックして関連情報を展開できる小さなボックスかもしれない。
誰が検証するのか？
最良の検証機関は官民連携だろう。どちらか一方だけでは同じ効果は得られない。
まず、AI業界は不可欠なパートナーである。政府機関が業界のスピードと器用さで動くことは決してできない。そして誰も自社の製品について業界ほど詳しくはない。
しかし、業界だけでは理想的な選択とはならないだろう。企業が集まって「これはいいアイデアだね」と言ったから栄養成分表示ができたわけではない。それは彼らの利益にならないからだ。さらに、公平かどうかは別として、社会は業界が自らを監視することを信頼しそうにない。利害が単に一致しないのだ。
そしてもちろん、企業はそもそも一緒に座ることさえ難しかっただろう。競合他社が協力しようとすると、独占禁止法の弁護士たち—独占禁止当局も含めて—は通常蕁麻疹を発症する。
要するに、政府だけが業界参加者を拘束する規制力を持ち、社会全体の利益のために行動する最大の力を持っている。しかし、政府だけでは、この複雑で急速に進化する分野を評価し、常に最新の状態を保つための専門知識が不足している。
政府と業界が協力すれば、効率的で効果的な認証プロセスを推進できるだろう。これは国立標準技術研究所（NIST）のように機能し、追加のNIST研究所としてその管轄内で組織されることさえあるかもしれない。
これをどう支払うのか？
そして最も難しい部分：この認証機関とそのプロセスの資金をどこから調達するのか？これには新たなコンテンツや最新のAI技術に先んじるための継続的な更新が必要となる。
連邦予算は深刻に制約されており、AI業界に過度の負担をかけることは避けるべきだ。経済的および国家安全保障上の理由から、国際競争における我々の地位を強化するためにAIを推進する必要がある。国内産業に足かせをはめることは、その取り組みに逆効果をもたらす可能性がある。
では、大きな金額をどうすれば小さく見せることができるだろうか？答えは、できるだけ多くの支払者グループに分散させることだ。
100社が各100万ドルを支払わなければならないとしたら、それは痛手だ。しかし1億人が1ドルずつ支払えば、それほど悪くない。鍵は、影響が最小限になるように、適切に広い人口と徴収方法を特定することだ。
例えば、インターネットサービスプロバイダーやブロードバンドインターネットアクセスを提供する通信サービスが各顧客から徴収する小額の手数料を設定することができる。これらの小さな「信頼手数料」は各個人への影響を最小限に抑えながら、仮想コンテンツの認証に必要な金額を調達できるだろう。
検証は、AIの可能性を活用し、社会が分裂することを防ぐために必要な、公衆がAIを信頼するための道を開くことができる。
