非営利の研究組織「ランド研究所」のシニア・インフォメーション・サイエンティストであるRand Waltzmanは先週、フェイスブックがニュースフィードで行っているターゲティング広告配信が、メタバースではさらに強化される危険性があると警鐘を鳴らした。
Waltzmanによると、ディープフェイク技術を活用した何者かが政治家や著名人になりすまして演説を行い、人々がそれを信じ込んでしまうリスクがあるという。
メタは、この問題の対処に乗り出したが、他の企業も既に独自の取組みを開始している。2年前、ニューヨーク・タイムズ（NYT）やBBC、CBCラジオ・カナダ、マイクロソフトは、オンラインコンテンツの情報源の信ぴょう性を証明する技術を構築するプロジェクト「Project Origin」を立ち上げた。
同プロジェクトは現在、アドビやインテル、ソニー、ツイッターが参画するC2PA（Coalition for Content Provenance and Authenticity、コンテンツの来歴と真正性のための連合）の一部となっている。オンラインコンテンツの出所を追跡するソフトウェアの初期バージョンは既に存在するが、問題は誰がそれを利用するかだ。
「我々は、コンテンツの出所を検証するための情報を提供することができるが、フェイスブックがそれを利用するかを決め、どのように自分たちのアルゴリズムやシステムに組み込むか考えなければならない。我々は、それらを把握することができない」とCBCラジオ・カナダでディスインフォメーション対策のシニアアドバイザーを務め、Project Originの共同リーダーでもあるBruce MacCormackは話す。
2020年にスタートしたProject Originは、出所が信頼できると主張する情報が本当にそのソースから来たものかを確認し、配信されたままの形式で受信したかを証明することで、改ざんができないようにするソフトウェアを開発している。
この技術は、ブロックチェーンなどの分散型台帳技術を使ったものではなく、出所に関するデータをタグ付けし、情報がコピーされたり拡散する際に、それが付いて回るようにしている。このソフトウェアの初期バージョンは今年リリースされ、現在いくつかのメンバーによって使用されているという。
