米オンラインメディアBuzzFeed（バズフィード）のジョナ・ペレッティ最高経営責任者（CEO）は2月11日、TikTok（ティックトック）の親会社バイトダンスの共同創業者である張一鳴（チャン・イーミン）と、フェイスブックの親会社Meta（メタ）の会長兼CEOであるマーク・ザッカーバーグを公開書簡で名指しし、2人とももはや「SNSプラットフォーム上のコンテンツにはあまり関心がなく、むしろテクノロジーとAI（人工知能）により大きな関心を向けている」と非難した。
そしてペレッティは、SNSがユーザーのエンゲージメントを高めるために、怒りやネガティブな感情を引き起こしやすいコンテンツを優先的に表示していると指摘した。公開書簡の中では、BuzzFeedがソーシャルメディア事業に参入して「喜びを広め、遊び心に満ちたクリエイティブな表現ができる」プラットフォームを構築することも発表されたが、大部分はAIをはじめとするテクノロジーがソーシャルメディアをどのように変えたかに焦点が当てられていた。
その変化は、おそらく悪い方向へと向かっている。
「ソーシャルメディアプラットフォームは、ディープニューラルネットワーク（DNN）や強化学習といった高度な機械学習技術をますます活用して、フィードを形成し、コンテンツを調整し、ユーザーのエンゲージメントを誘っている」と米ベイラー大学のアシスタントプロフェッサー、パブロ・リバス博士（コンピューターサイエンス）は説明する。
こうしたシステムは個人の嗜好を予測し、最もクリックされやすいコンテンツを表示することに長けている。そのため、センセーショナルなコンテンツや偏向的なコンテンツが意図せず優先されがちだ。しかし、そうならないようにすることはできるとリバスは言う。
「AIは、思慮深く使えば、事実に基づいた有意義な投稿に注目を集めてポジティブなオンライン交流を促進する強い力になり得る。そのためには、堅牢なアルゴリズム設計だけでなく、透明性、公平性、ユーザーの自律性の尊重といった倫理原則への取り組みも欠かせない」
