社会の機能する能力は、事実、規範、価値観そして意味の基準線を含む共有の参照点に依存している。判断が派生的になり、真実が統計的な推測に縮小し、意味が良心や文化よりも予測機械によって形作られるとき、国は自分自身について推論する能力を失い始める。民主主義は劇的な瞬間に崩壊するのではない。それは高高度での酸素のように、ゆっくりと薄くなる。あなたは圧力の低下をすぐには感じない。あなたは人々がより明確に考えなくなり、より激しく議論し、より信頼せず、より想像せず、より交渉せず、より夢見なくなることに気づく。あなたは機関が腐敗しているからではなく、彼らが頼る信号が弱く、矛盾し、または合成的になったために漂流していることに気づく。
この「希薄化」はすでに進行中だ。あなたはそれを注意力の短縮、ニュアンスの侵食、証拠に結びついていない絶対的確実性の台頭、アルゴリズム的ドリフトが文化的ドリフトになる方法に見ることができる。私たちの判断が人々の道徳的本能よりもモデルの統計的好みを反映するほど、私たちの市民生活はそれ自体のシミュレーションに似始める、表面上はもっともらしく、下は空洞だ。AIはこの希薄化の唯一の原因ではないが、それは強力な加速剤だ。なぜなら、それはまさに認知と力が交差する場所で操作するからだ。
そして、すべてのリーダー、すべての幹部、すべての政策立案者を一時停止させるべき部分がここにある。自分がどのように決定を下すかを理解していない国は、自分自身をうまく統治しないだろう。それはどの本能が本物で、どれが微妙に自動補完されたかを理解しないだろう。それはその価値観がどこから来たのか、なぜそれらが重要なのかを覚えていないだろう。それは熟考を通じて獲得されたコンセンサスと予測を通じて製造されたコンセンサスの違いを見分けることができないだろう。
ビジネスでは、これは企業がモデル出力を戦略的ビジョンと誤解し、昨日の偏見を明日の決定に焼き付け、利便性を明確さと混同することとして現れる。予測エンジンが適合性に報いるため、全産業は均一性に向かって漂流するだろう。発見が安定性よりも驚きのために最適化されたシステムによって仲介されるとき、新しいアイデアが表面化するのがより複雑になるため、市場は端で縮小するだろう。企業は速度を知恵と、一貫性を真実と誤解するだろう。
地政学的結果も同様に深遠だ。判断を劣化または操作されたデータで訓練された予測システムに外部委託する国は、その競争相手を誤読し、その市民自身を誤解し、その戦略的姿勢を誤算するだろう。派生的推論に基づく政策は、先見的というよりも反応的になる。合成的コンセンサスと実際の公共の意志を区別できない国家は、致命的な誤りに漂流するだろう。グローバル競争の次の時代は、計算能力やモデルサイズだけでなく、どの社会が人間の判断の完全性を守り、どの社会がそれをスピードのために放棄するかをめぐって戦われるだろう。
