エージェント型AIの爆発的な広がりが、仕事に対する私たちの見方を変えることは誰もがわかっていた。だが、それから数年が経ったいま、あらゆる業務のほぼすべての詳細を突然マシンに委ねられるようになったときに何が起こるのか、その全貌が明らかになりつつある。コーディング、ホワイトペーパーの執筆、スケジュール管理、プロジェクトのタイムライン作成。AIはこれらすべてをこなせる。では、何が起きるのか。
まず見えてきた大きなトレンドは、これに追いつかなければならない人間側の疲弊だ。
ブルームバーグのイシー・ラポウスキーは、新しいモデルのハッキング能力についていかなければならない人々が直面している燃え尽き症候群（バーンアウト）に関する新しい記事を執筆した。ホワイトハッカーのヴァル・マイレは、神話や寓話レベルのアシスタント機能に支えられ、セキュリティの専門家とネットワーク破壊を目論む者たちとの間の競争を最近急激に加速させている「AIの狂気」について言及している。
マッキンゼーの調査は、こうした課題を次のように強調している。
「AIは……AIによって強化されたソーシャルエンジニアリングの増加や、データ漏洩による多大な金銭的影響に象徴されるように、悪意あるアクターによって、より巧妙なサイバー攻撃を助長し、その量を増加させるためのツールとして利用されている。例えば、生成AIはソーシャルエンジニアリングの手法を強化しており、攻撃者は極めてリアルなフィッシングメールやディープフェイクを作成し、従業員を欺いて機密情報や認証情報を共有させている。2023年におけるサイバー犯罪の総コストは、2015年比で2倍以上に増加した」
ここから見えるトレンドは明白だ。睡眠や食事を必要とし、最終的にはデジタルのワークステーションを超えた人生を送る必要がある人間のオペレーターが、四六時中働き続けることができるAIエージェントに追い抜かれつつあるのだ。
終わりのない生産性
実際のところ、いま投げかけられている問いは、より広範な哲学的問題へとつながっている。終わりのない生産性の価値とは何なのか。そして、それは良いことなのか、そうではないのか。
「この変革全体に影を落としている問いは、当然ながら、これほど多くの構築作業が、より価値のあるものを生み出しているのか、それとも単に物を増やしているだけなのかという点だ」とラポウスキーは書いている。彼女が自身の記事について議論するフォーラムに投稿した、次の問いも興味深い。
「AIエージェントが24時間稼働できるからといって、必ずしもそうすべきだということになるのだろうか」
ここでラポウスキーが自らの問いに答えているような気配が感じられるだろう。整合性を保てないのであれば、より多くのものを大量生産しても意味はない。ある程度は整合性を保てたとしても、テストや品質保証ができないという問題がある。導入企業には製品が押し寄せるが、テストは行われないのだ。
そしてそれは、エージェント型AIが私たちの生活を変える中で起こし得ることの一側面にすぎない。古典的なゲーム理論の観点で考えてみよう。
群衆が動く
筆者はラポウスキーのコラムにとどまらず、同じ記者によるブルームバーグの他の新しい見出しにも目を向けていた。
その1つは、Zoomミーティングへの「招かれざる客」としてのAIというアイデアに関するものだ。これは、多数のAIエージェントが、明確な合意なしに会議を傍聴し、記録し、詳細な文字起こしを作成し、その他の方法で人間を監視できるという考え方である。
「AIによるノート作成ツールを、会議に集中できるようにしてくれる大幅な時間短縮ツールと捉える人もいる」とラポウスキーは書いている。「一方で、プライバシーの脅威であり、自らの生活に対するAIのまた新たな招かれざる侵入と捉える人もいる」
さらに、サマーインターンシップの終焉もある。少なくとも、かつてその恩恵を受けていた若者たちにとってはそうだ。
「企業が雑務にAIを利用し、エントリーレベル（未経験者向け）の職種が減少する未来に備えるなか、大学生にとっての重要な通過儀礼が消え去りつつある」
ここでも、状況を思い描いてみよう。インターンが担うはずだったポジションに対して、大量のエージェントが「ボランティア」として「名乗りを上げる」のだ。いわば余剰の人手であり、「総員配置」という古くからの格言を、ラポウスキーの言葉を借りれば悪夢――大昔からある寓話「魔法使いの弟子」のような事態に変えてしまう。
人々が「生産性中毒」や「終わりのない生産性」の約束と脅威について語るとき、意味しているのはこういうことだ。問わなければならないのは、深刻な問題になるまでに、隅にどれほどの成果物が積み上がり得るのか、ということである。
筆者は今後も、マサチューセッツ工科大学（MIT）やその他の場所で人々がどのように対応しているかに注目しながら、AIブームの最前線からレポートを続けていく。これらの問いは私たちの生活に大きな影響を及ぼすため、私たち全員が真剣に熟考すべき問題であると考えている。
