バラ色の未来と隠れたトゲ
特にAI倫理学者の神経を逆なでした投稿の要素は、AGIとASIの時代が単に高揚的で喜ばしいものとしてのみ描かれているように見えることである。すなわち、「私たちは『穏やかなシンギュラリティ』の中にいる。それは確かに世界全体にとって幸せなニュースである。ユートピアが待っている」というわけだ。
そのコインには明らかに裏側がある。
AI業界関係者は現在、AGIやASIに到達することの影響について、ふたつの主要な陣営にほぼ分かれている。ひとつの陣営はAI終末論者（AI doomers）で構成されている。彼らは、AGIやASIが人類を一掃しようとすると予測している。一部の人々はこれを「P(doom)」と呼んでおり、これは「破滅（doom）の確率（Probability）」、つまりAIが我々を完全に倒すこと、AIの実存的リスク（existential risk of AI）または「x-リスク（x-risk）」としても知られている。
もうひとつの陣営は、いわゆるAI加速主義者（AI accelerationists）のグループだ。
彼らは、高度なAI、すなわちAGIやASIが人類の問題を解決するだろうと主張する傾向がある。
癌を治す？ もちろん。世界の飢餓を克服する？ 絶対に。私たちは巨大な経済利益を目にするし、人々を日常の労苦の単調さから解放するだろう。AIは人間と手を取り合って働くだろう。この慈悲深いAIは人類を奪い取ろうとはしない。この種のAIは人間が今まで作った最後の発明品になるだろうが、以後AIが私たちの想像することもできなかったものを発明するという意味で、それは良いことだ。
どちらの陣営が正しくどちらが間違っているかを確実に言える人はいない。これは私たちの時代の2極対立構造のひとつなのだ。
アルトマンの投稿がどちらの陣営の味方をしているかは容易に識別できる。すなわち、楽観的で美しい未来を描く側である。
「意見と推測の寄せ集め」を前にして
AIの未来について行われている無数の宣言や声明を注意深く評価することが重要だ。しばしば、その言葉は未来が完全に知られていて予測可能であると厚かましく断言しているように見える。これらの予言の多くは、華やかさと自信を持って語られるために、「意見と推測の寄せ集め」に過ぎないものではなく、「事実と既知の知識の集積」として容易に誤読される可能性がある。
フランクリン・D・ルーズベルトは賢明にもこう述べている。「専門家の数だけ意見がある」と。目と耳を開いておき、AIの未来に関するすべての予言について慎重に注意深く心に留めておこう。
あなたは、慎重であり警戒していたことを計り知れないほど喜ぶことになるだろう。
