しかし、歴史をざっと振り返るだけでも、別の物語が見えてくる。人間の状態を示すグラフは、常に右肩上がりに進むわけではない。紀元前1250年、青銅器時代の文明は壊滅的な崩壊に見舞われ、人類は何世紀も後退した。西ローマ帝国は、工学と統治の数世紀にわたる進歩の後に崩壊した。モンゴルの大軍がアジアを席巻したとき、数え切れない人々が苦しみ、計り知れない知識が失われた。20世紀のドイツは、世界で最も科学的、文化的に進んだ国々の一つだったにもかかわらずナチズムへと転落し、数百万人を虐殺した。
私たちは未来と進歩を、ほとんど同じ意味で使いがちである。しかし未来は、必ずしも現在より良いわけではない。それは単に、次に来るものにすぎない。
シリコンバレーは、人類の進歩という神話に疑問を投げかける、より最近の理由も与えている。マーク・ザッカーバーグは、世界をつなげば人々は結びつくと信じていた。しかしFacebookとInstagramは、操作と分断の媒体にもなった。最も印象的な証拠は、Facebook自身の内部調査から来ている。『ウォール・ストリート・ジャーナル』の報道によると、2016年、Facebookの研究者がドイツの政治グループにおける過激派活動を調査したところ、過激派グループへの参加の64％がFacebook自身のレコメンドツールに起因していたことが判明したという。「参加すべきグループ」や「発見」といった機能は、人々がすでに探していたコミュニティを見つけるのを助けていただけではなかった。過激派グループへの勧誘を積極的に助けていたのである。
そして、マーク・ザッカーバーグだけではない。暗号資産取引所「FTX」創業者のサム・バンクマン＝フリードは、より良い金融システムを築いていると主張した。医療ベンチャー詐欺事件で有罪判決を受けたエリザベス・ホームズは、医療を変革すると約束した（彼女のドキュメンタリーも見ることができる）。彼らの失敗はそれぞれ異なっていたが、いずれも野心と進歩を取り違える危険を露呈した。いまAIは、医療や生産性における進歩を約束すると同時に、監視や危害の新たな能力ももたらしている。それらの技術が何を可能にするかは、人々がそれを使って何を選ぶのかについて、驚くほどわずかなことしか教えてくれない。
