受賞歴のある書籍『The Thinking Machine』の冒頭で、著者のスティーブン・ウィット氏は、ジェンセン・フアン氏がAI革命の中核を担うマイクロチップを開発することで、エヌビディアを世界で最も価値ある企業の一つに育て上げた物語を紹介している。同書では、この新技術に関わったほとんどの人々が経験した懸念が共有されている。しかし、フアン氏はこうした懸念を一蹴した。「AIがやっているのはデータ処理に過ぎない」と彼は語ったとされる。「心配すべきことは他にたくさんある」
フアン氏は、AIが雇用に与える影響を心配していないだけでなく、人類全体に対する潜在的リスクについても明らかに懸念していない。彼はAIが新たな産業革命を促進していると信じている。ベストセラーとなり、FT・シュローダーズ・ビジネス・ブック・オブ・ザ・イヤーという栄誉ある賞を受賞した同書でウィット氏が述べているように、「フアン氏はほぼ唯一、AIは善のみをもたらすと信じており、この信念が彼を動機づけ、CEO就任から30年経った今でも週7日、1日12～14時間働き続けている」（コンピューターチップメーカーには、彼らを不安にさせる何かがあるに違いない。1990年代、すべての自尊心のあるコンピューターがインテルのチップで動作していた時代、同社のCEOアンディ・グローブ氏──フアン氏と同様、米国への移民──は『パラノイアだけが生き残る』というビジネス書を執筆した）
この労働倫理と一途さは称賛に値するが、フアン氏は──その成功にもかかわらず──AIの真の可能性がより明らかになるにつれ、社会がAIにどう対応しているかという点で、時代遅れに見え始めている。ChatGPTや類似サービスのユーザーに対してAIが犯す愚かな間違いの話で自分を安心させる人もいる一方で、AI安全性が現実の問題であると確信する人々が増えている
その一人が、RAIDS AIの共同創設者兼CEOであるニコラス・カイリノス氏だ。RAIDS AIは、他のAIツールを監視し、技術が暴走した際に組織に警告を発するAIツールである。40年間この分野で働いてきたカイリノス氏は、約2年前まではAI安全性を「最も懸念の少ない問題」と見なしていた。しかし、永続的な自己改善と、それが実行される速度により、人間が制御を失いつつあることに気づいた。大規模な損失からサービス中断まで、さまざまな問題におけるAIの関与を研究した後、彼と同僚たちは、あらゆるAIシステムが意図された目的から逸脱していないかを常時監視できると主張するプラットフォーム──RAIDS（Rogue AI Detection System：不正AI検知システム）──を構築した
カイリノス氏は、AIが意図通りに機能することを保証するための措置は、2023年12月に発表された国際規格（ISO42001）と、昨年から2027年まで実施期間が設定されているEU AI法の成立によって講じられたと述べている。しかし、現時点ではAIイノベーションが安全対策の導入を上回っているため、業界はこの問題をより真剣に受け止める必要があると彼は考えている。「人間の監視には速すぎる」と彼は最近の私とのインタビューで語った。「リアルタイムの独立した監視が必要だ」
さらに、このようなアプローチを採用することは業界の利益にもなる。「これらを放置して何か壊滅的なことが起これば、規制も壊滅的なものになり、すべてが停止するだろう。責任ある規制が必要だ。イノベーションと同じペースであるべきだ」
フアン氏や、メタ、アップル、グーグルなどの同業者たちが同じように感じているかどうかは、もちろん大きな問題である。今のところ、魅力的ではあるがやや背筋が寒くなる同書でウィット氏が述べているように、フアン氏は少なくともそのような問題にあまり煩わされていない。「人類の絶滅の可能性は企業戦略の問題ではなく、したがって彼にとっては、地図の未探索部分にドラゴンを描くのと同じくらい愚かなことだった」と彼は書いている
