今回のコラムでは、生成AIや大規模言語モデル（LLM）の広範な普及に対する怒りが、人々にAI生成コンテンツを容易に見分けられるという思い込みを生んでいる現象を検証する。実際には見分けられないにもかかわらず、である。彼らの激しい怒りが目を曇らせているのだ。さらに、人間が作ったコンテンツを見せられ、それがAIによって生成されたという嘘を告げられた場合、人々はAI製だと信じ込んでいるがゆえに、その作品を貶める傾向がある。
これは「AIは腐っている」という風潮が暴走している状態だ。
問題の核心は、新たに浮上しつつある以下の5つの経験則にある。
- (1) 人々は、何かがAIによって作られたかどうかを巧みに見分けられると信じているが、実際にはそれができない。
- (2) どのように作られたかのラベルがないコンテンツを見せられた場合、人々がそれがAI生成か人間製かを推測する精度は、一般的にランダムな確率と変わらない（他の条件が同じ場合）。
- (3) あるコンテンツがAI製だと告げられると、人々はその作品を貶める。
- (4) あるコンテンツがAI製であっても、人間が作ったと告げられた場合、人々はAI製だと思った時ほど貶めない傾向がある（人間の手仕事には好意的な解釈を与える）。
- (5) 人々は感情的に、AIに対する既存の偏見が、見せられたコンテンツの認識を大きく左右することを許している。
この点について詳しく見ていこう。
このAIの画期的進展に関する分析は、最新のAIに関する私の継続的なフォーブスコラムの一部であり、様々な影響力のあるAIの複雑性を特定し説明している（リンクはこちらを参照）。
AIは激しい怒りを引き起こしている
人々はAIに対して非常に怒っている。
ある意味では、この怒りの波を責めることはできない。ニュースは、AIが全ての人の仕事を奪うと言い続けている。企業はAIの導入を理由に人員削減を行っていると主張しているが、これはいずれにせよ人員削減を望んでいたことの隠れ蓑かもしれない。AIは人間を凌駕しているように見える。多くのAIが大量のゴミだらけの出力を生成しており、インターネットがAIのゴミで溢れかえるのではないかという懸念を煽っている。
こうした不安の上に、AIは人類にとって実存的リスクであるという主張が加わる。この種の議論はやや減少した。昨年は議論の主流だった。専門家たちは毎日、AIが人類を破壊するか、我々全員を奴隷にするかのどちらかだと宣言していた。あまり有望ではなく、確かにAIの出現にそれほど夢中になるべきではないという兆候である。
関連する懸念は、人間が存在の階層における地位を失いつつあるということだ。人間はあらゆるものの頂点に立つはずである。慣習的な人間中心主義の視点では、人間が他の全てに勝る。これは種差別の一形態だと言われている。我々の種が最高位なのだ。しかし、悲しくも恐ろしいことに、我々は残酷な新たな変化に直面している。
AIは存在の階層において我々の上に向かっているように見える。
人間による芸術作品の評価
多くの実証研究が、この怒りがどれほど広がっているかを示している。
私のお気に入りの研究の1つは、シモーネ・グラッシーニ氏とミカ・コイヴィスト氏による「AI生成アートワークに対する否定的バイアスを形成する性格特性、経験、態度の理解」（Nature、2024年2月19日）という現在では古典となった研究で、以下の重要な点を指摘している（抜粋）。
- 「本研究の主な目的は、個人的要因が、AIによって制作されたと認識される芸術作品を人々がどのように知覚し評価するかを予測できるかどうかを理解することであった」
- 「さらに、本研究はAI生成アートワークに対する否定的バイアスの存在を調査・確認し、そのような否定的バイアスを予測する可能性のある個人的要因を明らかにすることを試みた」
- 「研究の結果、創造的な個人的アイデンティティや経験への開放性といった一部の個人特性が、提示された芸術作品を人々がその信じられている出所の関数としてどのように知覚するかに影響を与えることが示された」
- 「参加者は人間が作った画像とAIが作った画像を一貫して区別することができなかった」
- 「さらに、参加者は一般的にAI生成アートワークを人間製のものよりも好んでいたにもかかわらず、出所の帰属に関する主観的知覚が考慮された場合、AI生成アートワークに対して否定的バイアスを示し、その真の出所とは無関係に、よりAI生成と認識された芸術作品をより好ましくないと評価した」
要点は、人々がAI生成アートワークに対して否定的バイアスを持つ傾向があるということだった。これは、作品が人間によって考案された場合でも当てはまる。実験者が人々にそれがAI生成だと告げると、実際には人間製であるにもかかわらず、彼らは貶めるのである。
人々がAIに動揺し不承認を示すこの傾向は、全般的なものであるようだ。全ての年齢層、全ての人口統計がこのように感じているようだ。おそらくこれは、我々全員を結びつける最後の名残の1つである。共通の敵であるAIが、稀な統一の瞬間に我々を結びつけるのだ。
それでも、いくつかの行動要因が作用する。実験は、外向性、協調性、誠実性、情緒安定性、開放性、共感性などの人間の特性を調査することで構成されていた。時には、特定の人間の特性が、その人がAIアートワークに対して敵対的になるか、より穏やかになるかを調整することがある。
ソーシャルメディア上の最新のトリック
先週、Twitter/X上に投稿された最新の悪ふざけは、本物のモネの絵画の写真を提供し、その写真がAI生成であるとラベル付けされたものだった。多くの人々がこの茶番に引っかかった。
あらゆる種類の反AI的なコメントと熱狂があった。人々は、その絵画が純粋にAIのゴミだと投稿した。一部の人々は、AIが必死に人間のような芸術を生み出そうとしているが、それは「明らかに」劣っていると嘲笑した。これが延々と続いた。
絵画の構成は嘲笑された。反射と芸術性の深さは嘲笑された。しかし、これは1915年頃の真のモネの写真だった。単にその作品をAIとラベル付けすることで、大量の辛辣な批判が解き放たれたのだ。
誰かに作品がAI生成だと告げることは、警鐘を鳴らし、彼らを長広舌へと駆り立てることに等しい。
文章コンテンツも同じ領域にある
芸術作品と文章作品を区別することには顕著な違いがあると考えているかもしれない。おそらく人々は、芸術作品よりも文章素材の出所を見分けることに長けているのではないか。
違う。
ChatGPTが2022年11月に初めて発表されたとき、生成AIとLLMの初期バージョンは、出力の言葉遣いに関してかなり単純だった。当時の人気のあるLLMの多くは、生成された回答の中で単語を繰り返し使用する傾向があった。さらに、単語の選択に偏りがあった。
その結果、文章作品がAIによって作られた可能性があるかどうかを検出できる可能性があった。単語の頻度と特定の単語の使用がコンテンツの一部に現れている場合、それがAIによって作られた可能性があるとある程度確信を持って推測できた。私は当時、これらの推測は信頼できないと書いた。そして、多くの人々が、実際にはAIを全く使用していないのに、何かを書くためにAIを使用したと誤って非難されることになると書いた。リンクはこちらを参照。
言い換えれば、人は自分の心と手を使って作品を書くことができるが、その特定の文体のために、それがAI生成のように見える可能性がある。私は後に、手書きの素材を人々にAI生成だと思わせたい場合、特定の方法で書くことで人々を騙すことができると指摘した。リンクはこちらで私の分析を参照。
現代世界は変化した
今日では、予測可能なAIのような方法で書かないようにとAIに気軽なプロンプトを入力すれば、AIが書いたものか人間が書いたものかを検出することが本質的に不可能なコンテンツを見事に作成してくれる。以上、終わり。
同様に、人間が書いた作品を取り上げて、それがAIによって書かれたように見せるようAIに指示することができる。すると、人々は作品の中の手がかりが「巧妙に」決定的な証拠だと思い込んで引っかかる。ブーム、マイクを落とす。
皮肉なことに、この場合のオートメーション、つまりAIは、作品の構成方法において何かがAIによって書かれたと人々に信じさせるようプロンプトすることができ、また、AIによって準備されたものであっても、絶対に人間によって書かれたに違いないと人々を騙すようプロンプトすることもできる。
愚かであってはならない
もしあなたが、AI作品と人間の作品を見分けられると大声で自慢する人を知っているなら、彼らと議論しないのが最も安全かもしれない。彼らができないと示唆すれば、おそらく激怒するだろう。彼らの人間性は、人間種の誇り高い一員として、何としてでも偽物と本物を見分けられるという反論の余地のない信念に固定されている。
エイブラハム・リンカーン氏の賢明な言葉によれば、「全ての人を一時的に騙すことはでき、一部の人を常に騙すこともできるが、全ての人を常に騙すことはできない」。しかし、AIのおかげで、これはタイムリーな更新が必要かもしれない。おそらく、AIの使用に傾倒することで、全ての人を常に騙すことができるのだ。
