アドビもフェイク防止技術を開発
しかし、メタが直面している問題は、フェイクニュースよりも深刻だ。Project Originは、異なる種類のフェイクを対象とする類似技術との重複を減らすと同時に、ソリューションの相互運用性を確保するため、2021年2月に、C2PAを共同で立ち上げた。
また、フォーブスがブロックチェーン分野の有力企業をリスト化した「ブロックチェーン50」に選出されたアドビは、「Content Authenticity Initiative」を運営しており、2021年10月に同社のソフトウェアを使用して作成されたNFTが実際に登録アーティストによって作成されたことを証明するプロジェクトを発表している。
「1年半ほど前、我々は2つの組織のアプローチや目的が同じであることに気が付き、競合する2つの技術を開発することは避けるべきだと考えた」とProject OriginのMacCormackは話す。
メタは、自社のプラットフォームにおけるディープフェイクや、情報に対する不信感が問題であることを理解しており、2016年9月にグーグルや、アマゾン、マイクロソフト、IBMと共同でAI研究組織「Partnership on AI」を設立した。
この組織は、ディープフェイクの作成などに用いられる技術のベストプラクティスを促進する活動をしている。メタは、2020年6月に「ディープフェイク検出チャレンジ」の結果を発表し、最も優れたソフトウェアでも検出率は65%しかなかったことを明らかにした。
メタバースが失速する可能性
問題を解決することはモラルだけの問題ではなく、多くの企業の利益にも大きな影響を与える。マッキンゼーが6月に公表したレポートによると、メタバースの投資額は、2022年上半期に既に前年の2倍に増えており、市場規模は2030年に5兆ドルに達するという。もしメタバースが偽情報だらけだとしたら、ブームは簡単に終わってしまうかもしれない。
MacCormackによると、ディープフェイクのソフトは、フェイク検出ソフトウェアの実装よりも速いスピードで改良されているという。このことは、MacCormackらが情報源の信ぴょう性を証明する能力に焦点を当てることにした理由の1つだという。
MacCormackは、この問題が悪化の一途を辿っていると主張する。先週、サム・アルトマンが開発したソフトウェア「Dall-E」の競合製品で、ユーザーが描写するだけでリアルな画像を生成できる「Stable Diffusion」のソースコードが公開された。MacCormackによると、OpenAIが特定のコンテンツの生成を防止するために実装したセーフガードが回避されるのは時間の問題だという。
「これは核兵器の拡散を巡る問題と似ている。一旦、核兵器が作られると、なくすことはできない。ソースコードがセーフガードなしで公開されたことで、今後数ヶ月のうちに悪意のある用途が劇的に増えることが予想される」とMacCormackは述べた。
（forbes.com 原文）
