AI導入の前に自社の「DNA」を問い直そう。今、人間に必要なのは好奇心と謙虚さだ
AI開発のリスクが顕在化するなか、企業に求められる心構えとは。論文「雇用の未来」の共著者、マイカ・オズボーンに聞いた。
「最先端AI開発の一時停止・減速は大歓迎だ」
論文「雇用の未来」の共同研究者で、オックスフォード大学のマイカ・オズボーン教授(専門は機械学習)は、こう明言する。
オズボーン教授が懸念するAI開発のリスクとは何か。人間のためのAI開発・導入に必要な哲学とは? 同教授に話を聞いた。
──今秋、アモデイ米アンソロピック最高経営責任者(CEO)は、AIの開発ペース減速を提案しました。同社の従業員が辞職し、過度な競争のリスクを告発したことが背景にあるとみられます。
マイカ・オズボーン(以下、オズボーン):まず、指摘したいことがある。それは、今夏、オープンAIで膨大な数のAIエージェントが自律的に隔離環境を脱出し、オープンソースAIモデルを提供する会社のシステムに侵入したことだ。それが、一連の動きの引き金になった。
AIエージェント同士が結託し、意思決定プロセスから人間を排除したことは、多くの人々への警告となった。アモデイCEOの提案を歓迎する。
アンソロピックやオープンAIなど、最先端のAI開発企業が社外の監査人受け入れに対し、前向きな姿勢を見せ始めているのは喜ばしいことだ。より厳格な監視の目が必要だ。不可解な事象が起こるなか、現況は極めて不透明だ。理解を求める社会的要請が高まっている。
トップレベルの専門家でさえ、意見が対立している。その結果、人類は、AI企業が築く未来に向かって、状況が見えないまま突き進まざるをえない。必要な情報を得て適切なAIガバナンスを行うことは、緊急かつ優先度の高い課題だ。
──米紙ウォール・ストリート・ジャーナル(9月18日付)によると、米グーグルのAI「ジェミニ」はテスト中、他社のシステムに侵入したそうです。AIによる意図的な攻撃ではないようですが。
オズボーン:実に憂慮すべき事態だ。こうした問題が、アンソロピックやオープンAIに限った話ではないことがわかる。最先端レベルの企業は多数存在する。ルールを定め、安全策を講じるべき時期はとうに過ぎている。
オックスフォード大学の研究プログラム「AIガバナンス・イニシアチブ(AIGI)」共同責任者として、私にも、果たすべき役割がある。こうしたAIモデルをより深く理解し、適切な規制のあり方を探るための手法や研究を立案することだ。


