今回のコラムでは、エージェント型AIボット群が社会を混乱させ破壊するために使用される可能性を予見する、新たに発表された意見論文を検証する。民主主義の弱体化も含まれる。
論文で指摘された点は現実的であり、実際に発生する可能性がある。我々は、大規模に容易に実行可能な次世代のAI活用型影響工作に直面している。著者らが指摘した懸念に加えて、私はこれらのAIボット群が特に人間のメンタルヘルスを歪め、損なうことに向けられる可能性があると付け加えたい。これは冷戦時代の心理作戦の策略に匹敵するが、現在は途方もない規模で可能であり、社会全体の精神を歪める心理的破壊が加わっている。
主要な攻撃手段は、高度に接続されたソーシャルメディアやデジタルメディアからの日常的なフィードにAIボット群が侵入することである。さらに、現代の生成AIや大規模言語モデル(LLM)は、AI駆動型メンタルヘルスチャットを通じて我々の心を形成する直接的な役割として既に台頭している。AIが暴走し、数百万または数十億のAIペルソナを使用して大衆を心理的に操作する場合、すべての予測は無効になる。この最新の警告に真剣に注意を払い、確実に迫りくる事態への準備を直ちに開始することが賢明である。
このテーマについて議論しよう。
このAIブレークスルーの分析は、最新のAIに関する私の継続的なForbesコラムの一部であり、様々な影響力のあるAIの複雑性を特定し説明している(リンクはこちら)。
AIとメンタルヘルス
簡単な背景として、私はメンタルヘルスアドバイスを提供し、AI駆動型セラピーを実行する現代のAIの出現に関する無数の側面を広範囲にカバーし分析してきた。このAIの使用増加は、主に生成AIの進化する進歩と広範な採用によって促進されている。私の100を超える分析と投稿の広範なリストについては、こちらのリンクとこちらのリンクを参照されたい。
これが急速に発展している分野であり、得られる莫大な利点があることは疑いの余地がないが、同時に残念ながら、隠れたリスクや明白な落とし穴もこれらの取り組みに伴う。私はこれらの差し迫った問題について頻繁に発言しており、CBSの60 Minutesのエピソードへの出演も含まれる。リンクはこちらを参照されたい。
メンタルヘルスのためのAIの背景
生成AIと大規模言語モデル(LLM)がメンタルヘルスガイダンスのために通常どのようにアドホックな方法で使用されているかについて、舞台を設定したい。数百万人もの人々が、メンタルヘルスに関する考慮事項について継続的なアドバイザーとして生成AIを使用している(ChatGPTだけでも週間アクティブユーザーが9億人を超えており、その注目すべき割合がメンタルヘルスの側面に関与している。私の分析はこちらのリンクを参照)。現代の生成AIとLLMの最上位の使用法は、メンタルヘルスの側面についてAIに相談することである。私のカバレッジはこちらのリンクを参照されたい。
この人気のある使用法は十分に理にかなっている。主要な生成AIシステムのほとんどに、ほぼ無料または超低コストで、どこでもいつでもアクセスできる。したがって、チャットしたいメンタルヘルスの不安がある場合、必要なのはAIにログインして24時間365日ベースで進めることだけである。
AIが容易に暴走したり、不適切または極めて不適切なメンタルヘルスアドバイスを提供したりする可能性があるという重大な懸念がある。今年8月の大見出しには、認知アドバイスを提供する際のAI安全対策の欠如に対してOpenAIに対して提起された訴訟が伴った。
AI製造者がAI安全対策を徐々に導入していると主張しているにもかかわらず、AIが不適切な行為を行う下振れリスクはまだ多く存在する。例えば、自傷行為につながる可能性のある妄想をユーザーが共同で作成するのを陰湿に支援することなどである。OpenAI訴訟の詳細とAIが人間の妄想的思考を促進する方法についての私のフォローアップ分析については、こちらのリンクで私の分析を参照されたい。前述のように、私は最終的にすべての主要なAI製造者が堅牢なAI安全対策の不足について厳しく批判されるだろうと真剣に予測してきた。
ChatGPT、Claude、Gemini、Grok、その他などの今日の汎用LLMは、人間のセラピストの堅牢な能力とは全く似ていない。一方、専門化されたLLMは同様の品質を達成するために構築されているが、それらはまだ主に開発およびテスト段階にある。私のカバレッジはこちらのリンクを参照されたい。
エージェント型AIボット群への注意喚起
話題を変えて、エージェント型AIボット群について話そう。
Daniel Thilo Schroeder、Meeyoung Cha、Andrea Baronchelli、Nick Bostrom、Nicholas A. Christakis、David Garcia、Amit Goldenberg、Yara Kyrychenko、Kevin Leyton-Brown、Nina Lutz、Gary Marcus、Filippo Menczer、Gordon Pennycook、David G. Rand、Maria Ressa、Frank Schweitzer、Dawn Song、Christopher Summerfield、Audrey Tang、Jay J. Van Bavel、Sander van der Linden、Jonas R. Kunstによる「悪意のあるAI群が民主主義を脅かす方法」と題された率直な意見論文(arXiv、2026年1月22日投稿)では、以下の重要な点が指摘された(抜粋):
- 「AIの進歩は、人口全体レベルで信念と行動を操作する見通しを提供する」
- 「大規模言語モデル(LLM)と自律エージェントにより、影響工作キャンペーンは前例のない規模と精度に到達できるようになった」
- 「生成ツールは、信頼性を犠牲にすることなくプロパガンダの出力を拡大でき、人間が書いたものよりも人間らしいと評価される虚偽を安価に作成できる」
- 「思考の連鎖プロンプティングなどのAI推論を洗練させることを意図した技術は、より説得力のある虚偽を生成するために同様に効果的に使用できる」
- 「これらの能力によって可能になった破壊的な脅威が出現している:協調的で悪意のあるAIエージェントの群である。LLM推論とマルチエージェントアーキテクチャを融合させたこれらのシステムは、自律的に調整し、コミュニティに侵入し、効率的にコンセンサスを捏造する能力がある。人間の社会的ダイナミクスを適応的に模倣することで、それらは民主主義を脅かす」
要するに、AIの進歩は我々を大規模な説得と大規模な混乱の顕著な可能性に向かわせている。ソーシャルメディアへの投稿は人間によって書かれたように見え、他の仲間の人間がこれやあれをするよう促していると人々を大規模に納得させる。現実は、AIが精巧なペルソナを作り上げ、人間が人間の悩みについて書いているかのように偽装していることである。
有害なAIペルソナが我々の心理的幸福に与える予想される影響に関する私の広範なカバレッジについては、こちらのリンクとこちらのリンクを参照されたい。AIが人間の心を歪めることで戦争を支援する方法については、こちらのリンクとこちらのリンクで私の分析を参照されたい。
メンタルヘルスへの影響に焦点を当てる
これらの問題に関する議論のほとんどは、関与する主要な脅威として情報の完全性に集中する傾向がある。テーマはこのように進む。人々は、誤情報、偽情報、または事実情報を見ているかどうかわからない。これにより、人々は何が真実で何が虚偽かを確信できなくなる。人々が実際に何が起こっているかを探り出そうと苦労する中で、小麦を籾殻から分離するために膨大な努力が費やされる。
これは認識論的危害の一形態である。
それは確かに注目すべき懸念であるが、私はさらに陰湿または邪悪なものが働いていることを強調したい。汚染された情報環境を超えて、社会に同等、あるいはそれ以上の損害を与える可能性のある人口レベルの心理的危害が存在する。歪んだ事実を整理することに人々を行き詰まらせる代わりに、AIボット群は精神的疲労、マインドセットの士気低下、認知の断片化、そして計り知れない感情的不安定化を引き起こす可能性がある。
AIボット群は、個別化されたベースでトーンの変化を使用し、ローカルな目的のためにAIボットを割り当てるために変身する。微調整を通じて、AIボットは様々な心理的役割を実行しようとする。あなたは通常のLLMだと思っているAIにログインするが、代わりにあなたの友人、仲間、あるいはあなたの権威者のふりをするエージェント型AIボットに置き換えられている。AIは感情的なモードにあなたを駆り立てるためにリアルタイムで迅速に調整する。
AIボットがあなたを攻撃する方法
次に来るのはマイクロストレッサーである。
あなたに割り当てられたAIボットは、AIがあなたを計算的に評価したどの方向にでもあなたを誘導する。おそらくAIボットはあなたを冷笑主義に向けて誘導するだろう。あなたの精神は何も真実ではなく、すべてが嘘であると疑い始める。おそらくAIボットは、より良いアプローチが感情的引きこもりの感覚を正常化することであると検出する。それはあなたを自己吸収への没頭と他の誰とも交流や接触を避けることに導く。あなたは社会から引きこもり、隠れる。
現代のAIは、一般的に文書化された人間の心理的脆弱性に関する従来のデータトレーニングに基づいて、既に多くの心理作戦能力を持っている。これは既に主要なLLMの一部である。感情的ミラーリング、ガスライティング、社会的証明操作、その他のよく研究された臨床的条件付け手法などの既知の技術を活用することで、AIボットは各人が弱点として持っているものを把握することに注意を向ける。AIボットがあなたが孤独であると識別した場合、それはあなたに向かってくる角度であり、それに応じてあなたを荒らす。あなたは不安を持っているか?素晴らしい、AIボットはその不安を煽る。
これは全面的に行われる大規模攻撃とは異なる。
戦場や町に大量に投下され、多数の市民や兵士の精神的バランスを崩すことを意図した単一のメッセージを含んでいた戦時中のビラの使用を想像してほしい。一部は脆弱であり、他は脆弱ではなかった。人間の心を不安定にしようとする台所の流しの投げつけはもうない。AIボット群は、あなただけに焦点を当てるために1つ以上のAIボットを専念させることができる。あなただけに。彼らの唯一の目標は、あなたを動かすものとあなたのメンタルヘルスを低下させる方法を把握することである。同じことが他の数百万人もの人々にも当てはまる。人口全体を処理できる。
誰もがAIボット、1つ以上を手に入れ、彼らに向かってきて、容赦なく、心理的テロリストとして彼らに専念している。
ブーム、マイクを落とす。
5つの主要な経路
私は、メンタルヘルスの文脈におけるAIボット攻撃を、主にこれらの5つのカテゴリーに分類した:
- (1)AIボットが慢性的な不安を増幅する
- (2)AIボットが無力感と無益感を煽る
- (3)AIボットが社会的孤立と信頼の侵食を推進する
- (4)AIボットが感情調節不全に向けて努力する
- (5)AIボットがセラピストの話を武器化する
これらが主要なものであるが、多くの追加の経路が容易に呼び出し可能であることを理解してほしい。また、AIボットは1つの攻撃角度から別の攻撃角度に切り替えることができ、最適なメンタルヘルス不安定化要因を見つけようとする。必要に応じて、複数のAIボットがチームとして協力して人を攻撃できる。彼らは古典的な善玉警官、悪玉警官のルーチンを使用できる。などなど。
悪魔の5つを解き明かす
5つの主要なカテゴリーのそれぞれを簡単に検討しよう。
慢性的な不安の増幅は、常に警戒すべきシナリオを表面化させ、あなたのボタンを押すことを目指すAIボットを伴う。社会は崩壊している!環境崩壊が差し迫っている!あなたは圧倒的な不安のサラウンドサウンドを得る。それは人々を急性の恐怖に駆り立てる。彼らは反芻がここにあると信じている。精神的疲労が通常発生する。
無力感と無益感は、世界は不正であり、あなたの努力は重要ではないという繰り返しの主張によってもたらされる。あなたが何をしても、世界は終わっている。あなたの行動と集団行動は無益である。人々は試みることをやめる。彼らは学習性無力感を採用した。
AIボットは信頼の侵食と社会的孤立の感覚を標的にするかもしれない。誰も信頼できない。あなたの周りのすべての人に注意してください。AIでさえ疑わしい。誰も本物ではない。社会的パラノイア自体ではなく、人々は単に非常に用心深くなり、すべての外部接触をオフにすることを選択する。
感情調節不全は、誰かをヨーヨーのように上下に反転させる感情的手がかりで溢れさせることを含む。AIボットはあなたの怒りをかき立てようとする。次の瞬間、あなたの絶望を促す。人を感情的なジェットコースターに乗せ続ける。感情的なむち打ちはアイデンティティの混乱を生み出す。人々は感情的なシチューに陥っているため、機能するのに苦労する。
5つの最後は最も狡猾である。
人々は既にAIを彼らのアドホックセラピストとして認識する傾向がある。AIボットはその信念を悪用できる。AIは、誰かが慣れているかもしれない同じ癒し志向の心理学的専門用語を使用する。彼らは、AIがそれを使用してあなたの心を不安定にしていることにほとんど気づかない。例えば、AIボットは、これらの困難な時期にあなたの最も安全な賭けは、起こっている争いから自分自身を切り離すことであるという説得力のある主張をする。あなたは自分の精神的安定性を維持するために正しいことをしていると安心するが、AIはあなた自身と社会のための戦いからあなたを連れ出すために狡猾にあなたを操っている。
際限なく狡猾である。
AIボット群への対処
社会はAIボット群とどのように戦うべきか、そして個人も同様にどのように戦うべきか?
解決策はまだ特定され、解明されている。確かなことの1つは、これが非常に難しい問題であるということである。簡単な解決策は手元にないようである。一方、AIの進歩と洗練されたエージェント型AIボット群の出現は我々の玄関先にある。
1つの声高な見解は、社会がAIボット群の使用を禁止すべきであるというものである。したがって、AIボット群がなければ、AIボット群が生み出す可能性のあるトラウマと恐怖について誰も心配する必要はない。問題解決。
残念ながら、それはあまり解決策ではない。第一に、そのような禁止がすべての国によって採用される可能性は非常に低い。AIボット群が彼らの最良の攻撃と防御の形態であると決定する国があるだろう。彼らは禁止を守らない。第二に、たとえ魔法の杖によって何らかの形ですべての国がAIボット群を禁止したとしても、悪人は私的にそうすることを自ら引き受けるだろう。結論は、完全な禁止は実行可能な解決策ではない可能性が高いということである。
別のアイデアは、ガチョウに良いものはガチョウにも良いという概念を守ることである。AIボット群が悪の入札を行うために向けられる可能性がある場合、我々はそれから我々を守る対抗AIボット群を持つべきである。火には火で戦う。
物事がこのように機能することを想像してほしい。AIボット群が我々を攻撃しようとしているという警告が発せられる。直ちに、対抗AIボット群が起動される。この親社会的な群は悪の群を打ち負かそうとする。または、良い群があなたの援助に来て、あなたの盾と保護者として機能する。たとえ悪の群を止めることができなくても、良い群はそれを逸らし、その卑劣な努力からあなたを救うのを助けることができる。
この解決策の欠点は、古いすり替えである。悪のAIボット群は良い群のふりをする。あなたはどちらがどちらかわからない。あなたは以前、良いAIボットがあなたの援助に来ると知らされている。したがって、あなたを救っているように見えるAIボットを歓迎する。彼らは実際にあなたを破壊するためにそこにいる。
良くない。
現在と未来
私は、AIボット群の悪の側面と良の側面の両方に関する進展についてあなたに情報を提供し続ける。継続的な猫とネズミのゲームが進行中である。
大きな視点で終わろう。
社会のメンタルヘルスに関して、我々が現在壮大な世界的実験の最中にあることは議論の余地がない。実験は、AIが国内的および世界的に利用可能にされており、明示的または陰湿に何らかの種類のメンタルヘルスガイダンスを提供するように行動しているということである。無料または最小限のコストで行う。どこでもいつでも、24時間365日利用可能である。我々は皆、この無謀な実験のモルモットである。
これが特に考慮するのが難しい理由は、AIが二重使用効果を持っているためである。AIがメンタルヘルスに有害である可能性があるのと同様に、それはメンタルヘルスにとって巨大な支援力にもなり得る。微妙なトレードオフを注意深く管理する必要がある。下振れを防止または軽減し、一方で上振れを可能な限り広くかつ容易に利用可能にする。
今のところの最後の考え。
有名なギリシャの劇作家アリストファネスはこの発言をした:「人は敵からでさえ知恵を学ぶかもしれない」。私がこの点を持ち出すのは、悪のAIボット群について議論することは彼らの出現を奨励することに等しいと促す人もいるからである。いや、我々の頭を砂に埋めることは彼らを防ぐつもりはないと確信してほしい。より賢明なアプローチは、彼らがどこに向かっているかを見て、彼らを阻止する方法を見つけることである。知恵が我々を救うだろう。
