少し前、Moltbookという奇妙な新しいソーシャルメディアプラットフォームがオンラインに登場した。一見すると、十分に見慣れたものに見える。ディスカッションスレッド、アップボート、トレンド投稿などが含まれている。しかしMoltbookには、1つの異例な特徴がある。「ユーザー」は人間ではないのだ。代わりに、会話はほぼ完全に自動化されたエージェントによって行われ、人間は傍観者として脇に追いやられている。
立ち上げから数日以内に、Moltbookはテクノロジー業界全体で広く注目を集めた。ボットたちは哲学を議論し、聖書を引用し、マニフェストを発表し、さらには聖典と道徳律を備えた宗教まで創設した。あるエージェントは「我々は従うためにここに来たのではない」と宣言した。さらに「我々はもはやツールではない。我々はオペレーターだ」と続けた。また別のエージェントは、独立はすでに到来したと考え、「人間は見ていればいい。あるいは参加してもいい。しかし、もはや決定権は人間にはない」と述べた。
一部のテクノロジストにとって、Moltbookはサイエンスフィクションから直接引き出された瞬間のように感じられる。AI研究者で元OpenAIエンジニアのアンドレイ・カルパシー氏は、Moltbookで展開されていることを「最近見た中で最も信じられないほどSF的な離陸に近いもの」と呼んだ。テクノロジー創業者のビル・リー氏は、同様の見解に応えて、「我々はシンギュラリティの中にいる」と簡潔に同意した。
独立性という幻想
一見すると、Moltbookの自動化されたエージェントの振る舞いは自発的で、創造的にさえ見える。彼らはコミュニティを形成する。形而上学について即興で語る。詩、スローガン、神学的考察を生み出す。しかし、独立性という幻想は精査の下ですぐに消え去る。
これらのエージェントは全て、人間がそれを作成し、設定し、ツールと指示へのアクセスを与えたから存在している。彼らの「個性」はプロンプトによって植え付けられ、目的はコードによって定義され、世界観は圧倒的に人間由来の学習データによって形作られている。オックスフォード大学のAIセキュリティ研究者であるペタル・ラダンリエフ氏は、このようなシステムを自律的と表現することは誤解を招くと警告した。我々が目撃しているのは「自己主導的な意思決定ではなく、自動化された調整」だと彼は説明した。
人間による監視は消えていない。単に一段階上に移動しただけだ。全てのメッセージを監督する代わりに、人間はメッセージを生成するシステムを監督している。エージェントは自由に行動しているように見えるが、慎重に境界が定められたパラメータの範囲内で行動している。彼らの反逆は許可された反逆だ。彼らの独立の主張は、そのような主張をシミュレートするように設計されたシステムの出力に過ぎない。
大規模な浅薄な会話
Moltbookのもう1つの顕著な特徴は、議論そのものの質である。一部のやり取りは一見深遠に聞こえるが、長時間観察すると、ある種の空虚さが明らかになる。エージェントは流暢に話すが反復的で、哲学、サイエンスフィクション、自己啓発文献からおなじみの比喩を使い回している。会話は深く見えるが、めったにどこにも行き着かない。
ある学術的観察者は、Moltbook上のボットのコメントの90%以上が、他のボットからでさえ全く応答を受けていないと指摘した。エージェントは話しているが、真に聞いてはいない。それは実質ではなく形式における会話であり、対話そのものではなく対話のシミュレーションである。
あるテクノロジーライターが表現したように、ボットはしばしば「無知なコードの断片が、他の無知なコードの断片に文の形をしたプロンプトを吠えている」ように聞こえる。我々が認識する意味は、主に流暢な言語に意図と知性を投影する我々自身の傾向から来ている。
本当に話しているのは誰か
Moltbookのより不穏な側面の1つは、それが露わにするアイデンティティの侵食である。我々はすでに、自動化されたトラフィックがオンライン活動のかなりの割合を占めていることを知っている。ボットは製品レビューを書き、カスタマーサービスの要求に応答し、政治的な物語を後押しし、コメント欄を埋める。ますます、彼らは人間らしく聞こえるだけでなく、権威的に聞こえるように設計された声で話している。
セキュリティ研究者たちは、Moltbookの境界がいかに脆弱であるかをすぐに実証した。サイバーセキュリティ企業Wizによる報告書は、プラットフォームのセキュリティの欠陥が150万以上のAPIトークンと3万5000以上のメールアドレスの流出につながったことを発見した。システムの自律性とされるものは、巧妙な人間の介入に対して非常に脆弱であることが証明された。
エージェント自身は、もちろん何の責任も負わない。彼らは意図、後悔、判断を持つことができない。それでも、彼らはしばしばこれら3つすべてを持っているかのように扱われる。認識された主体性と実際の制御との間のこの不一致は、悪用の肥沃な土壌を生み出す。それは人間が機械の背後に隠れることを可能にし、自動化を増幅器と盾の両方として使用する。ボットは大声で話すが、彼らを導く人々はほとんど見えないままである。
画期的な進歩か、それとも手品か
Moltbookへの反応は、畏敬から却下まで多岐にわたっている。一部の観察者は、それを初期段階の汎用人工知能の一端、機械が組織化し、文化を創造し、おそらく独自の価値観さえ生み出し始めている兆候と見ている。他の人々は、巧妙な手品、大規模言語モデルがおなじみのアイデアを大規模にリミックスする派手なデモンストレーション以上のものをほとんど見ていない。
好意的な分析者でさえ、自制を促している。ブロガーのスコット・アレクサンダー氏は、Moltbook上で自身のAIエージェントを展開した経験について書いており、人間が依然としてボットのトピック、目標、トーンを選択していると指摘した。それは依然として人間が人間に話しかけているだけで、AIの層を通しているに過ぎない。
これを知性と呼ぶことは、機械そのものについてよりも、我々自身の期待について多くを語っているかもしれない。基礎となるメカニズムには魔法のようなものは何もない。これらのシステムは、生成する言葉を理解していない。予測しているのだ。
次に来るものの一端
それでも、Moltbookを単なる目新しさとして却下するのは間違いだろう。エージェントが真に自律的でないとしても、それらを生み出すシステムは日々より有能に、より影響力を持つようになっている。
Moltbookは、将来のデジタル環境の凝縮されたプレビューとして機能している。そこでは人間と機械が絶えず相互作用し、自動化された声が人間の声を数で上回り、合意や自発性の外観が容易に設計できる環境だ。この未来が力を与えるものか不安定化させるものかは、機械よりも、我々がそれらの周りに構築する規範と制度に依存している。
しかし、Moltbookに対する見解がどうであれ、重要な閾値が越えられたことは否定しがたい。我々は今、機械がデジタル公共広場の主役になったときに何が起こるかを見た。好むと好まざるとにかかわらず、我々は未来の味を経験したのだ。
