短期的には、AIシステムは既存の偏見や不平等を悪化させ、誤った情報を広め、政治や経済を混乱させ、ハッカーを助ける可能性があると専門家は警告している。長期的には、AIは人類に存亡の危機をもたらすと警告する専門家もいる。超高性能AIが開発される前に、その問題に対処しなければならず、システムの安全性を確保することが今日の開発の重要な要素であるべきだと彼らは主張している。
オープンレターは「人類はAIといっしょに繁栄する未来を楽しむことができる」と前向きな言葉で締めくくられている。「強力なAIシステムの創造に成功した今、私たちはその報酬を享受し、すべての人の利益のためにこれらのシステムを設計し、社会に適応する機会を与える『AIの夏』を楽しむことができる。社会は、社会に壊滅的な影響を与える可能性のある他の技術に対して一時停止をした。私たちもそうすることができる。長いAIの夏を楽しみ、準備不足のまま秋に突入するのはやめよう」
OpenAIに多額の投資をしているマイクロソフトの創業者で元CEOビル・ゲイツは、このレターの署名者として名前を連ねていない。ゲイツは以前、AIが社会にもたらす変革的な影響を認め、ここ数カ月の間にこの分野で見られた「驚くべき」進歩を賞賛し、その恩恵を公平に、特に支援を最も必要とする人々が享受できるようにすることを重要視していると述べている。
ゲイツは最近のブログで、マスクらが署名したオープンレターで提起されたのと同じ問題の多くを指摘している。ゲイツは、AIを取り巻く社会的な懸念は、政府と技術を推進する民間企業の間で解決されるべきであり、その技術が良い方向に使われるようにする必要があると述べている。技術的な問題については、最近の進歩によって一部の問題が「以前よりも緊急性が増した」わけではなく、研究者はすでに他の緊急の技術的問題の解決に取り組んでおり、数年以内に成功する可能性が高いと述べている。
ゲイツは、人間の能力を全面的に超えるAI超知能をめぐる問題は、本物のリスクなのか絶望的な憶測なのかでAIコミュニティでも意見が分かれており、正当なものではあるが、最近の進展からすると近くないとも述べた。このような懸念は「時間が経てば経つほど、より切実になっていくだろう」とゲイツは付け加えた。
（forbes.com 原文）
