スタンフォード大学のコンピュータサイエンス教授ジェームズ・ランディは、先のポッドキャストで包括的AIの重要性を提唱し、「AIシステムを包括的にデザインすることが、現在、最も重要です。人間中心の価値観なしにはAIは成功しません」と述べている（マッキンゼーのシニアパートナー、ラレイナ・イーとの対談より）。
スタンフォード大学ヒューマン・センタードAI研究所（HAI）の共同創設者で共同ディレクターでもあるランディは、人間中心のAIとはアプリケーションの問題だけにとどまらないと説明する。「AIシステムをどのように作り、デザインするのか、誰をその開発に参加させるのか、そしてAIシステムを創出し評価する過程で、いかに人間中心のプロセスを育むかも大切です」と彼は語っている。
AIの難しさは、予測不能性にある。パソコンのような従来の技術と異なり、AIシステムは確率論的に動作するため、「ある意味で信頼性が低い」とランディは指摘する。与えられたデータによって結果が変わるため、常に同じ入力から同じ出力が得られる決定論的なシステムとは異なる。そのため「AIシステムのデザインを、従来とは違う考え方で捉えなければなりません」と指摘する。
確率論的モデルにデータを投入すると、ニューラルネットワークの構造や学習過程によって結果が変わる可能性がある上、存在しない事柄をあたかも事実のように述べる「ハルシネーション（幻覚）」が起こることもある。「なぜこうした現象が起こるのか、まだ完全には解明されていません。そこにこそ、誰がこのモデルを作っているのかという問題が潜んでいます」とランディは注意を促している。
そのため、一度AIシステムが問題を起こすと管理がより難しくなる。ランディは「医療、教育、行政など、日常生活のあらゆる場面でAIが浸透するようになります。だからこそ、AIシステムをデザインする際の考え方を改める必要があるのです」と述べる。
