1. 今は「視覚ハッキング」をめぐる倫理的ジレンマの移行期である
この視覚認識技術が洗練されてソーシャルメディアに組み込まれれば、AIはユーザーが目にしたものを「見て」、何に興味を抱いているかを前例のない（ほぼ完璧な）精度で提案してくるようになるだろう。これは消費行動に大きな影響を及ぼすに違いない。この技術が使われていない現在ですら、私たちの消費行動はとっくにソーシャルメディアのアルゴリズムに乗っ取られている。2016年の研究によれば、中立的な投稿や否定的な投稿でも他のユーザーからの反応が多ければ、肯定的な内容だが人気のない投稿よりも売り上げの伸びに貢献することが示唆されている。
AIが人間の心を読むようになれば、ソーシャルメディア広告のエンゲージメントが、消費者の支出を増幅させて衝動買いを誘発する可能性がある。これは2つの理由から問題となる。
1. ソーシャルメディアが過剰にカスタマイズしたコンテンツを強化・推進し、誘惑に弱いユーザーが経済的に維持不可能なライフスタイルを模倣するようになりかねない。フォーブス・アドバイザーの調査によれば、旅行者の約半数（48％）がソーシャルメディアに影響されて旅行先を決めている。この影響力は、同調圧力や乗り遅れたくないという不安感によって悪化する。こうした影響を受けて44％が旅行予算を増やし、74％は自分が目にしたライフスタイルを真似しなければならないと感じていた。Z世代は特にこの傾向に流されやすく、78％がソーシャルメディアに影響されてクレジットカードで借金をしたり、旅行に金を使いすぎたりしている。
2. ユーザーが個人データを利用した広告配信の停止（オプトアウト）を実行するのは簡単なことではない。メタの論文では、AIによるマインドリーディング（読心）はユーザーの同意が技術的要件となっているため、オプトアウトも可能だと説明されている。しかし、顧客一人ひとりに最適化（パーソナライズ）されたデジタル・インタラクション（相互作用）にますます動かされる世界で、オプトアウトを選択したユーザーはニーズに即した体験を逃すことになり、取り残されたと感じるかもしれない。AIが私たちの視覚的興味を「読み取る」ことが可能になったら、パーソナライズよりもプライバシーを重視する人々は不利な状況に追いやられはしないだろうか。
人間の倫理観がAIとの共存によってどう進化するかを予測するのは時期尚早だ。とはいえ、確実に言えることがある。私たちは独自に意志の力を磨き、ソーシャルメディア領域向けの新規則を共同で作り上げなければならない。
