人工知能と未来をめぐって、ある物語が定着しつつある。「AIは豊かさの時代をもたらそうとしている。機械が退屈な仕事をこなし、科学的発見が加速し、医学的ブレークスルーが増え、生産性が急上昇する」というものだ。
これは説得力のあるビジョンであり、カンファレンスの主催者たちはこれを使って「客席を埋めている」。しかし、これは不完全でもある。
AIの恩恵とされるものに焦点を当てることは、より深い問いを無視している。この加速された時代は、仕事、人間関係、信頼、そして文明を機能させる社会的基盤にとって、本当は何を意味するのだろうか。
テクノロジストたちには、AIの明るいビジョンを売り込む経済的インセンティブがある。私は、地球上で最も優れた伝道師の一部がシリコンバレーに住んでいると確信している。未来学者として、私には恐れや偏見なく最も可能性の高い未来を予測し、今後待ち受ける脅威と機会の両方について警告する義務がある。
「加速の時代」はこれまで見たことのないものになる
私が「変化のメガフォース」と呼ぶものを過去6年間研究してきた結果、この新しい加速された時代は激しい展開になると結論づけている。ブレークスルーと崩壊があらゆる場所で同時に起こる。今後10年間の変化は、過去100年間よりも大きい。根深く根本的な変化が複合的に衝突し、かつてないほど我々に挑戦を突きつけるだろう。AIやその他の変化のより深い影響は、単に生産性の向上やGDP成長で測られるものではない。その結果は、人間の経験そのものをどう再構築するかで測られることになる。
スピードアップした世界の最も議論されていない影響は、おそらく意思決定の過負荷だろう。AIシステムはコンテンツを生成し、推奨事項を提供し、選択肢を指摘し、これまで経験したことのない規模で我々の決定を要求する。その結果、我々は常に警戒し、適応し、評価し、決定しなければならない心理的環境に置かれる。そのペースは、我々の認知的配線が進化して対処できる速度よりも速い。
テクノ楽観主義者が無視することを選んだ問い
「AIが世界を救う」という誇大宣伝の中で、めったに取り上げられない別の問いがある。機械が50兆ドル規模の経済全体で人間の労働を置き換えることができるなら、他の全員に何が起こるのか。機械が記事を書き、音楽を作曲し、病気を診断し、戦略計画を生成できるなら、人間の独自性はどこに存在するのか。そして価値創造についてはどうか。AIの目標が人間の労働を置き換えることであるなら、人々はその世界で何をしてお金を稼ぎ、意味を見出すのか。
テクノ楽観主義者は、人間は単により創造的な追求にシフトするだけだと主張する。彼らは、古い仕事が破壊されたときに新しい仕事、そして新しい仕事のカテゴリーが創出されると保証する。「過去には常にそうだったし、未来も常にそうなる」と。しかし、今回は違うかもしれない。実際、創造性、判断力、ストーリーテリング、デザインといった、かつて人間独自のものと考えられていた領域こそ、AIが最も急速に進歩している分野なのだ。
技術文明の目標は、効率を最適化することなのか、それとも人間の経験の豊かさを保存することなのか。旅行作家のリック・スティーブス氏は、ヨーロッパの小規模ホテルにおける「人員削減」の傾向の高まりを指摘している。最近のポッドキャストで、彼は伝統的な家族経営の施設がフロントスタッフを自動チェックインシステムとデジタルキーに置き換えていると述べた。この近代化はコストを削減するかもしれないが、スティーブス氏は、それがしばしば古典的で予算に優しいヨーロッパ旅行体験を定義する個人的な魅力と地元のホスピタリティを犠牲にすると嘆いた。
シリコンバレーのテクノロジー販売者は、あたかも人間を関与させることが時代遅れであるかのように、すべてをデジタル取引にしたがっている。
テクノロジー業界が決して取り上げないもう1つの問いは、技術文明の究極の目標である。それは効率を最適化することなのか、それとも人間の経験の豊かさを保存することなのか。
その問いは、私の友人がダラス・フォートワース空港で8時間立ち往生したときに浮上した。「ゲートには話をする人間が1人もおらず、何百人もの人々が人間の思いやり、慰め、正確な最新情報なしに立ち往生していた」。ロボットや機械が人間に取って代わるとき、何か深刻で重要なものが失われていると、ジェニファー・フリード氏は最近のSubstackで指摘した。
日常生活がオンラインに移行するにつれて、かつてコミュニティを構築していた偶発的な交流（何気ない会話、偶然の出会い、共有スペース、市民参加）はより稀になる。社会的孤立が高まり、人間の繁栄を達成することがより困難になる。
社会的信頼はどうなるのか
社会的信頼の低下は目新しいものではない。シカゴ大学が実施した縦断的研究は、1970年代初頭にさかのぼる米国における社会的信頼の長期的な低下を示している。調査員が尋ねる中心的な質問は、「ほとんどの人は信頼できる」か、それとも「いくら注意してもしすぎることはない」かである。1970年代初頭には、アメリカ人の約45〜50%がほとんどの人は信頼できると信じていた。近年、その数字は30%台前半に落ち込んでおり、調査年や分析されるサブグループによってはさらに低くなることもある。
人工知能は、この低下をさらに加速させる可能性が高い。ディープフェイクは、ビデオが本物かどうかを判断することを困難にする。誤情報と偽情報が政治家のソーシャルメディアから四六時中噴出し、サイバー詐欺は日々より巧妙になっている。個人情報の盗難、詐欺、オンラインハラスメントは、デジタル環境の日常的な特徴となっている。
アルゴリズムの時代における人間関係
もう1つの不穏な変化が人間関係において起こっている。テクノロジーにより、我々は何百人、あるいは何千人もの人々と連絡を取り合うことができる。しかし、これらのつながりはしばしば浅く一時的である。ソーシャルプラットフォームは、深さや意味よりも、可視性、スピード、エンゲージメントを報酬として与える。コミュニケーションはより速く、より薄くなり、本物のコミュニケーションと自律的なものとの境界が曖昧になる。
同時に、経済的インセンティブがデジタル関係をますます形作っている。インフルエンサー、ブランドパートナーシップ、サブスクリプションモデル、アルゴリズムによるプロモーションが、友情と商業の境界を曖昧にする。その結果は奇妙なパラドックスである。我々はかつてないほどネットワーク化されているが、真の人間的つながりはより稀になっている。
縮小する注意持続時間
コミュニケーション自体も進化している。短編動画、アルゴリズムフィード、絶え間ない通知が、注意をより小さな断片に分断する。近年、個別のタスクに対する持続的で分割されない注意の能力が急激に低下していることについて、ほとんど異論はない。「ある測定によれば、個別のタスクに対して47秒の集中した注意を得られれば幸運だ」と、Friends of Attention CollectiveのD・グラハム・バーネット氏は指摘する。「そのタイムラインでは、深い読書、ましてや深い思考はほぼ不可能であり、意味のある人生を構成するほとんどの形態の人間的交流も同様だ」。
注意は単なる精神的習慣ではない。それは内省、共感、長期的思考の基盤である。注意が分断されると、複雑な問題に取り組む能力も分断される。
科学的発見から民主的統治まで、文明の最大の成果には、持続的な注意と集中が必要である。しかし、デジタルエコシステムはますますその逆を報酬として与えている。
来る10年間は、今日ほとんどの人が完全には理解していない方法で我々を試すだろう。それは我々の産業や制度だけでなく、注意持続時間、人間関係、意味の感覚、そして最終的には我々の人間性そのものに挑戦するだろう。
今後数年間で繁栄する人々は、必ずしも最も技術的に洗練された人々ではないだろう。彼らは最も意図的で、適応力があり、地に足がついていて、回復力のある人々だろう。知的機械によってますます形作られる世界では、知恵、共感、創造性、判断力、つながりといった深く人間的な資質が、我々の最大の競争優位性になるかもしれない。
テクノロジーは息をのむようなスピードで進歩し続けるだろう。しかし、人類がそれと並んで繁栄するかどうかは、未解決の問いのままである。
未来は、意識的に、勇気を持って、そして完全に人間であり続けることが何を意味するかについての明確な感覚を持って、それに備える人々のものとなるだろう。
