金井：松尾さんは最近ではディープラーニング協会というものを作っていらっしゃると聞きました。
松尾：日本の大学は新しくて重要な技術を素早く教える、ということができておらず、ディープラーニングの人材も足りていません。スタンフォード大学だと、2005年頃から「検索エンジンの作り方」「オンライン広告の理論」といった授業があって、びっくりするくらい実践的な授業が学生に人気なんです。ディープラーニングの授業も、放っておくと何年も遅れるだろうと思い、一昨年に作り、たくさんの学生が受講してくれています。
一方で、AIの分野の定めとして、悪貨が良貨を駆逐する、という問題があります。巷には「AI家電」が増えていますが、ブームのたびに起こる現象です。従来からある技術をAIと錯誤させて売りこむ人・企業がいる限り、真面目にやる人・企業が割りを食う。
きちんとした技術があるかどうかを、外から見て分かる仕組みを同時に作らないと、マーケットは成立していかない。そこで、ディープラーニングの資格認定をしようと思っています。そのために協会というものを作ろう、と考えました。
金井：それはディープラーニングの個人の技術資格を認定するようなイメージですか？
松尾：基本的には個人なんですが、知識を問うような「G」とエンジニアリング技術を問う「E」に分けられていて、「E」は実際に作る人、「G」はどちらかというとユーザー企業さんに使って欲しいと思っています。
金井：それは良いシステムですね。我々は研究とは別に、ビジネスとして大手企業と組んで、ビッグデータ解析、ディープラーニングなどの機械学習技術を使ったアルゴリズムの開発をしています。そのような立場で、「AIを導入したい」という色々な大企業の方に説明に行く機会があるのですが、双方話がかみ合わないことが多々あります。我々はビジネスの細部が分からない、企業側は「AIならなんでもできるんでしょ」というような。
根本は産業、AIへの知識を深めて強みに
松尾：少なくとも、ユーザー企業さんも一通り一般的な知識を勉強してから、ベンチャー企業などの技術を持った会社と話をして欲しいと思います。例えば、「過学習（オーバーフィッティング）」（学習データには適合するけど、新たなデータを予測することができないモデルが出来てしまうこと）というような概念を知らずに話をするのはやめてくださいね、と思います。
金井：健全な社会とAIの導入に非常に重要なことですね。倫理委員会の活動も、そういった課題意識の延長なのですか？
松尾：倫理委員会では、基本的な倫理指針というのを出しました。研究者が人類のためを考えてやりましょう、というごく当たり前のことです。これからはより詳細の議論に入っていくと思います。
ただ、現状を見ると、やはり根本は産業だと思っています。まずは産業が進んで、それから倫理の話をするのが良い形ではないかと。ただ、倫理の話は間口が広く、知識を深めてもらうのに良いです。「AIが怖い」となったとき、「どうして怖いんだっけ？」「何が起こると思われているんだっけ？」という議論をしていくと、少しずつAIに対する知識が深まっていく。現在の機械学習では、想定外のことが起こるとすれば学習データに由来して起こります。仕組みがわかると、「で、怖いことって、どこで起こるんだっけ？」と。ある意味での社会に対する啓蒙という側面はあると思っています。
また、さまざまな分野においてそもそも論を問いかける役割もあります。例えば、法律の世界にAIが入ったときに、これまでの法律体系では扱えないような問題が出てくる。では、「そもそも法律って何のためにあるんだっけ？」と、立ち返って議論を迫る。そういう意味で、人文社会学に広く再構成を促す役割はあると思っています。
金井：そうですね。いわゆる倫理の議論は国際的なネットワークの場、研究者同士が研究開発で協力していこう、という合意の場にもなっていますよね。
「AI & Society」では、ケンブリッジ大学のヒュー・プライス氏のほか、Skype共同創業者、ディープマインドのリサーチャー、IBMワトソンの研究者ら世界のAIオピニオンリーダーたちが来日しますが、実はあえて日本企業の方にアプローチしています。
倫理の話は、具体的なビジネスの事例がないと具体的な話にならない。ビジネスの事例を色々な企業の方に見ていただいて、何が人工知能でできることなのか、まだできないことなのか、ということを知ってほしい、そういうことを意識した構成にしています。そういった議論の先に、AI分野でのグローバルな交流の加速、研究者や産業界のエコシステムの構築につなげていければ、と考えています。
[第二回に続く]
松尾 豊◎東京大学大学院工学系研究科 技術経営戦略学専攻 消費インテリジェンス寄付講座 共同代表・特任准教授。産業技術総合研究所 人工知能研究センター 企画チーム長（兼任）。主な著書に『人工知能は人間を超えるか』（KADOKAWA/中経出版）。
金井良太◎アラヤ代表取締役社長。京都大学生物学科卒業、オランダ・ユトレヒト大学で実験心理学PhD取得。英国サセックス大学准教授（認知神経学）。"意識”を説明する理論「統合情報理論」とフリーエナジーの研究に没頭。2015年より現職
