「AIが間違った方向に進むとどうなるか、私たちはみな知っています」と彼はいう。「HALが出てくる映画を見たことがあるでしょうか？ 正しい方向に進めて行きましょう」（HALとはもちろん、『2001年宇宙の旅』で宇宙飛行士を殺そうとしたAIのことだ。有名な話だが、H-A-Lの各文字を1文字ずつ後ろにずらすと、コンピュータメーカーのIBMになる）。
ベニオフによれば、安全にAIを構築するために、セールスフォースはポリシーと手続きを確立し、さらに少なくとも6つの倫理的AI委員会があるという。同社はまた、その主要な倫理的AIの原則を強調しており、たとえばそこには「私たちの製品ポリシーは人権を保護する」「私たちはグローバルに責任あるAIを推進する」「透明性が信頼を構築する」というものが含まれている。
同社のAIミッションに対する1つの課題としては、私がセールスフォースのAI担当CEOであるクララ・シーに、AIがカスタマーサービスをどのように改善するのかについての具体的な詳細を詳しく尋ねたとき、彼女が具体的な数字を持っていなかったことが挙げられる。より良いデータ、より緊密な統合、より迅速な生成が、企業が顧客により良いサービスを提供するのに役立つことは明らかだろう。しかし、実際の世界でそれを裏づけるための確かなデータはまだない。
AGI、すなわち汎用人工知能に関して、ベニオフがそれを企業活動として真剣に追求しているのか、あるいは単にそれがAI開発の現在見えている目標であると述べているのかは、はっきりとはわからない。未来学者で発明家のレイ・カーツワイルは、そこに到達するのにさらに6年かかると考えているが、他の人々はタイムラインについての推測をしたくないという。
しかし、汎用人工知能が実現した場合の最大の問題は、この汎用人工知能によってビジネスのスピードが多少アップするかどうかではなく、私たちが汎用人工知能の出現の際に生き延びられるかどうかなのだ。
（forbes.com 原文）
