人間の脳もブラックボックス
AI以外にも、人間が理解や解釈するのが非常に困難なマシンがもう1つある。それは、私たち自身の脳だ。リチャーズは、ヒントンの研究室で助手を務めた後、英国のオックスフォード大学大学院で神経科学を学んだ。彼は現在、自身の研究室で神経科学とAIにまたがった研究をしている。ディープラーニングAIが人間の脳をモデルにしていることを考えると「解釈可能性の問題は驚くに値しない」とリチャーズは考えている。「人間の脳に電極を埋め込んでその動きを観察すると、個々のニューロンが何をしているのかを解釈するのは非常に難しく、AIによく似ている。我々の脳は、経験と進化の組み合わせによって最適化された巨大なシステムだと言える」とリチャーズは話す。
リチャーズは、解釈可能性の問題は興味深いが「AIアライメント」などの差し迫った課題に取り組むために解決しなければならないものではないと考えている。AIアライメントとは、人間の価値観や目標に合わせて行動するAIシステムを設計する課題のことを意味する。
またリチャーズは、AIの説明可能性とAIアライメントは無関係だとし「我々は、解釈可能性がまったくない状況で、他人とのアライメントを常時行っている」と話す。
リチャーズがAIの説明可能性や、人間の脳を模倣したAIがよく機能しない理由などについて語ったインタビュー動画は、下記のリンクから視聴できる。
（forbes.com 原文）
