TATは、マイクロソフトと協力し、有害な可能性のあるコンテンツを検出し、人間の目で確認できるようにするためのAIツールを開発する。
両者が指摘する脅威の一例としては、過激派組織のイスラム国（IS）を支持するテクノロジー団体が、グループのメンバー向けにChatGPTの使用方法を解説するガイド本を出版したことが挙げられる。別のISの支持者は、オープンソースのAIツールを使って、ISの宣伝機関のメッセージを翻訳したと主張している。さらに、ある親アルカイダのプロパガンダ機関は、AIが生成した画像を宣伝ポスターに使用している。
マイクロソフトの副会長兼プレジデントのブラッド・スミスは「当社は、暴力的な過激派コンテンツを広めるためにデジタルプラットフォームが利用されていることを、緊急の対処が必要な問題と捉えている」と述べている。「我々はテック・アゲインスト・テロリズムの能力をAIと組み合わせることで、より安全な世界を作る手助けをしたい」と彼は付け加えた。
TATのエグゼクティブディレクターのアダム・ハドリーは「この共同プロジェクトは、人権を守りつつリスクに対処するためのAI技術の可能性を理解し、実証することを目的としている」と述べている。彼はまた「厳格なセーフガードとともに設計されたAIシステムは、生成AIを用いて作成されたテロリストのコンテンツを含む有害コンテンツを検出するための、飛躍的な進歩をもたらす可能性がある」と語っている。
TATは、テロリストや過激派が生成AIを用いて作成した5000以上のコンテンツをアーカイブしており、毎年膨大な量を発見しているという。このような生成AIの利用はまだ始まったばかりだが、中長期的には重大な脅威になる可能性がある。
マイクロソフトは、オンライン上の過激な投稿の撲滅に向けて設立された「クライストチャーチ・コール」の創設メンバーにも名を連ねている。同団体には最近、OpenAIとAnthropic（アンソロピック）が新たなメンバーとして加わった。
（forbes.com 原文）
