アンソロピック元研究者の警告を受け、AI安全対策を求める動きが強まる
AIの安全性と規制を巡る議論は、9月25日までの数週間で急速に激しくなった。アンソロピックの元研究者ジェイコブ・コクソンは9月8日、退職したと公表した。その際、「AIを開発している人々は、AIが2020年代末までに全人類を殺す可能性があると本気で考えている」と主張した。
advertisement
アンソロピックで、AIの目標や行動を人間の意図や価値観と一致させる「アライメント」の研究チームを率いるエバン・ヒュービンガーは、コクソンの警告に同調した。コクソンの主張は「正しい」とし、「我々は、AIが本当に全人類を殺す可能性があると真剣に考えている」と記した。ヒュービンガー自身は、今後10年以内にAIが人類を絶滅させる確率を「10％超」とみている。
ヒュービンガーはさらに、アンソロピックには「超知能を人間の意図や価値観と一致させる問題を解決する計画がまだない」と警告した。解決へ向けて順調に進んでいるとも明確にはいえないという。コクソンとヒュービンガーの警告を受け、反発と規制要求が強まった。グーグル、アンソロピック、OpenAIは、AIの安全性に取り組む団体の設立に向けた計画を始めている。
アルトマンとアモデイは9月23日、国連でAIを巡る国際協力と国際基準が必要だと強調した。アルトマンは、AIに関する決定は「民主的な手続きを通じ、国民に説明責任を負う政府によって形作られなければならない」と述べた。
advertisement
