AI

2026.11.20 14:30

AIがもたらす問題解決と破壊。三賢人に聞くAI時代に勝つ企業とは

Courtesy of Erik Brynjolfsson|Courtesy of Carl Frey|Dr Isis Amelie Hjorth

BRANDVOICE | Paid Program

もっと見る>

AI導入の前に自社の「DNA」を問い直そう。今、人間に必要なのは好奇心と謙虚さだ

AI開発のリスクが顕在化するなか、企業に求められる心構えとは。論文「雇用の未来」の共著者、マイカ・オズボーンに聞いた。

advertisement

マイカ・オズボーン|AI・機械学習研究者
マイカ・オズボーン|AI・機械学習研究者(Dr Isis Amelie Hjorth)

「最先端AI開発の一時停止・減速は大歓迎だ」

論文「雇用の未来」の共同研究者で、オックスフォード大学のマイカ・オズボーン教授(専門は機械学習)は、こう明言する。

オズボーン教授が懸念するAI開発のリスクとは何か。人間のためのAI開発・導入に必要な哲学とは? 同教授に話を聞いた。

advertisement

──今秋、アモデイ米アンソロピック最高経営責任者(CEO)は、AIの開発ペース減速を提案しました。同社の従業員が辞職し、過度な競争のリスクを告発したことが背景にあるとみられます。

マイカ・オズボーン(以下、オズボーン):まず、指摘したいことがある。それは、今夏、オープンAIで膨大な数のAIエージェントが自律的に隔離環境を脱出し、オープンソースAIモデルを提供する会社のシステムに侵入したことだ。それが、一連の動きの引き金になった。

AIエージェント同士が結託し、意思決定プロセスから人間を排除したことは、多くの人々への警告となった。アモデイCEOの提案を歓迎する。

アンソロピックやオープンAIなど、最先端のAI開発企業が社外の監査人受け入れに対し、前向きな姿勢を見せ始めているのは喜ばしいことだ。より厳格な監視の目が必要だ。不可解な事象が起こるなか、現況は極めて不透明だ。理解を求める社会的要請が高まっている。

トップレベルの専門家でさえ、意見が対立している。その結果、人類は、AI企業が築く未来に向かって、状況が見えないまま突き進まざるをえない。必要な情報を得て適切なAIガバナンスを行うことは、緊急かつ優先度の高い課題だ。

──米紙ウォール・ストリート・ジャーナル(9月18日付)によると、米グーグルのAI「ジェミニ」はテスト中、他社のシステムに侵入したそうです。AIによる意図的な攻撃ではないようですが。

オズボーン:実に憂慮すべき事態だ。こうした問題が、アンソロピックやオープンAIに限った話ではないことがわかる。最先端レベルの企業は多数存在する。ルールを定め、安全策を講じるべき時期はとうに過ぎている。

オックスフォード大学の研究プログラム「AIガバナンス・イニシアチブ(AIGI)」共同責任者として、私にも、果たすべき役割がある。こうしたAIモデルをより深く理解し、適切な規制のあり方を探るための手法や研究を立案することだ。

次ページ > AIの「弱点」にも興味をもつ

インタビュー=肥田美佐子 イラストレーション=ダニーロ・アグトリ

タグ:

advertisement

ForbesBrandVoice

人気記事