油断の危険性
AIを普通の技術とみなすことには、ひとつの懸念がある。それは、社会全体がAIに対する関心や警戒を失い、油断に陥って、結果的に重大な影響を見過ごす可能性があるという点だ。
現在、AIが「がんを治す」「人類を滅ぼす」といった極端な話題が多く報じられ、世間の注意を集めている。これらの話題には大げさな表現も多いが、大衆の目を引く効果は確かにある。
もし私たち全員が今後AIは普通のテクノロジーであるということに同意するなら、おそらくAIはもはや見出しを飾ることはなく、政策立案者や規制当局といった利害関係者の注目を集めることもなくなるだろう。私たちはAIを技術者の世界に閉じ込めることになる。迫り来る社会的影響は間違いなく未探索のままだ。なぜなら、AI技術者はそれらの重要な問題について考えていないか、AIが再び世界の意識に浮上するまでにはすべてが解決されるだろうと考えているからである。
これは、馬を厩舎から逃がすようなものだ。馬を厩舎に留めるか、賢く放つ準備をしておけばよかったのに、自分たちの頭を砂に深く埋めてしまったようなものだ。
「普通の技術」の異常な影響
AIが「普通の技術」であるという前提を置くことが懸念されるもうひとつの理由がある。
なおここでは、AGIとASIの問題は完全に視野の外に置こう。AGIとASIは考えないという仮定に同意しよう。今日私たちが知っている従来のAIだけが考慮の対象の中にある。
ひとつの議論は、従来のAIの影響でさえ、ある意味で異常だということである。AIは通常のテクノロジーであると仮定することはできるものの、社会的影響は他の通常の技術の影響を超える。その影響は異常（普通ではない）なのだ。
普通の影響をもたらす普通の通常の技術がある。それは良い。問題は、異常な影響をもたらす「普通の技術」があるということだ。AIを「普通の技術」の分類に入れることで、AIは単に普通の影響しか持たないと考えるように誤って進んでしまうこともあるだろう。
