サービス

2024.02.07 12:00

メタがインスタとFB上のAI生成画像へのラベル付加を発表、フェイク対策強化

Getty Images

メタは2月6日、フェイスブックおよびインスタグラム上のAI生成画像に対して「数カ月以内」にラベル付けを開始すると発表した。同社は、各国で選挙が行われる歴史的な年に先駆け、その種のコンテンツを識別するための「共通の技術基準」を提唱している。またこの発表は、操作されたメディアに関する同社の「一貫性がない」ポリシーを監視委員会が批判した翌日のことだった。

メタの国際問題担当プレジデントであるニック・クレッグは、同社がフェイスブック、インスクグラムおよびThreads(スレッズ)において「数カ月以内」に、AI生成画像へのラベル付けを開始するとブログで語り、同社が「業界のパートナーら」と、AIコンテンツの共通する検出基準を開発していることを説明した。

フェイスブック、インスタグラム、スレッズおよびWhatsAppの親会社であるメタは、同社のAI機能を使って作られた画像には、すでに「Imagined with AI」のラベルを適用しているが、メタは他社のツールを使って作られたコンテンツにもラベルを付けたいとクレッグは語った。

クレッグによると、ラベルはアドビ、グーグル、マイクロソフト、Midjourney、OpenAIおよびShutterstockが提供する画像に適用される予定であり、それはこれらの会社が「自社ツールで作成された画像にメタデータを付加する計画」を実行しているからだと語った。

メタの各プラットフォームは、業界が検出標準を開発している間にもラベルを付けられるように、ユーザーがAIで生成されたコンテンツに自分でラベルを付つける機能を追加するとクレッグはいう。ユーザーは「デジタル的に作成または変更」された「写真のようにリアルな動画やリアルに聞こえる音声を含むコンテンツ」を投稿する際、それを告知することが義務付けられる。

クレッグは、すべてのAI生成コンテンツを識別することは不可能だが、会社として、AIが生成したことを示すウォーターマークやメタデータといった目に見えないマーカーをユーザーが削除することを防ぐための「選択の範囲内の努力」を行うと語った。

「この取り組みが特に重要なのは、今後これが、ますます敵対的な空間になるに違いないからです。AI生成コンテンツを使って積極的に人を欺こうとする個人や組織は、その種のコンテンツを検出するための安全対策を回避する方法を探すでしょう」とクレッグはいう。

2月5日、メタの監視委員会(メタが資金を提供しているが、独立に運営されている)は、同社がジョー・バイデン大統領の改変された動画をフェイスブックに残す決定を支持したことを受け、その「一貫性のない」ポリシーを見直すよう要求した。

メタは、いくつかの巨大テック企業と並んで、世界で史上最高数の選挙が実施される2024年を通じて、AI生成コンテンツを管理する方法の概要を説明した企業だ。昨年11月に同社は、過去の方針を維持し、AI生成による政治広告へのラベル付けを行うことを発表した。その同じ月に同社は、インスタグラムとフェイスブックで広告作成者が生成AIソフトウェアを使って政治広告を作ることを禁止した。

forbes.com 原文

翻訳=高橋信夫

タグ:

ForbesBrandVoice

人気記事