シェカール・ナタラジャンはOrchestro.AIの創業者兼CEOである。
2015年、OpenAIの創業者兼CEOであるサム・アルトマンは有名な発言をした。「AIはおそらく、十中八九、世界の終わりにつながるだろう。しかしその間に、本格的な機械学習を活用した素晴らしい企業が生まれるはずだ」。一度聞いたら忘れられない言葉であり、あまりに繰り返し引用されてきたため、もはやミームのように感じられるようになっている。
私にはミームには聞こえない。告白に聞こえる。
アルトマンが漫画の悪役だと思うからではない。彼がこの言葉を口にしたとき、本心だったと私は信じている。この発言は失言ではない。シリコンバレーの哲学的な北極星となった思考様式そのものなのだ。まず中毒性のある技術を作り、人間への影響は後から対処すればいい、という考え方である。
そして、この哲学こそがビジネスリーダーの眠りを奪うべきものだ。
最適化がほかのすべてを飲み込むとき
アルトマンの発言に埋め込まれた考え方はシンプルだ。膨大なリスクと膨大な商業的機会は、互いを根本的に制約することなく共存できる、というものである。その方程式はこうだ。素早く作り、価値を獲得し、危険を認識し、コントロールし、軽視する。しかし決して立ち止まらない。
この論理はテクノロジー業界のあらゆる場所で聞こえてくる。まずモデルをリリースし、害は後からパッチを当てるのが一般的なのだ。
一度見方を知れば、このパターンはあらゆるところに現れる。私たちはエンゲージメントを高めるものなら何でも報酬を与えるシステムを構築する。たとえそれが怒りを煽ることを意味していてもだ。詐欺検知が追いつく前に画像生成ツールを出荷し、偽の保険請求や偽造された医療文書が高齢者の間で出回り始めると驚いたふりをする。生のインターネット──私たちの暴言、過激主義、最悪の本能──でモデルを訓練し、その出力を「人間の思考方法」を映す鏡だと宣言する。
私が見ているのは、判断力を犠牲にした最適化だ。データは信頼に値するかどうかを問うことなく取り込まれる。ガードレールは配備後に追加され、数時間以内に破られる。そしてその急ぎの中で、人間の尊厳は静かに巻き添え被害となっていく。
私たちが静かに常態化させているリスク
注目を追いかけるよう訓練されたシステムは、必然的にドーパミンをビジネスモデルに変える。大量処理を中心に構築されたパイプラインはニュアンスを押しつぶす。抽出に最適化されたアーキテクチャは人間の判断を周縁へと追いやる。
私たちは安全レイヤーが最悪の失敗を防いでくれると自分に言い聞かせる。だが私の経験は、そうではないと告げている。
10代の子どもがいる人なら誰でも知っているように、制約は回避策を招くだけだ。
AnthropicのCEOであるダリオ・アモデイは最近の記述で、この瞬間を「テクノロジーの思春期」と表現した。私たちの知能システムが、制度や規範、そして成熟度が追いつけないスピードで加速しているというのだ。彼は正しいと思う。私たちは人間を凌駕して推論できる一方で、結果には盲目のままの道具を作っている。
知性が、それを統治するために必要な知恵を置き去りにして先行しているのである。
私たちは分極化を見てきた。断片化を見てきた。それは人々を行動の断片──シグナル、衝動、嗜好──に分解し、全体としての人間が消えてしまうまで続く。
抑制、尊厳、責任に関する規範を築くのに何世紀もかかった。私たちはそれを数分で引き裂きながら、進歩を自画自賛している。
なぜ「素晴らしい企業」だけでは不十分なのか
アルトマンの「素晴らしい企業」という発言は、重要な何かを露わにしている。テクノロジー業界の多くでは、偉大さが評価額の曲線と技術的支配の略語になってしまった。
経済的価値は、信頼を損なうときでさえ称賛される。
私たちはこの映画を以前にも見たことがある。ソーシャルメディアはかつて民主主義の奇跡として称賛された。20年後のいまも、私たちはそれが公共的言論やメンタルヘルスに与えた影響を解きほぐし続けている。
AIはさらに深く浸透する。医療、物流、保険、採用、戦争、教育──人々が何を現実とみなし、何を安全と感じ、誰を信頼するかにまで触れる。
50年後、この時代は、人間の尊厳を中心にテクノロジーを再設計した瞬間として見られるか、あるいは効率性で十分だと決めた瞬間として見られるか、そのどちらかだろう。
異なるつくり方をせよ
はっきりさせておきたい。私はAIに反対しているのではない。進歩を止めろと言っているのでもない。私が言いたいのは、AIに私たちの人間性を奪わせてはならない、ということだ。
AIは私たちが何を見るか、何を信じるか、どう働くか、どう癒やされるか、さらには子どもをどう育てるかまで形づくる。その基盤に無謀な最適化の思考様式を埋め込めば、私たちは自分たちが築いた世界を後悔することになる。
だから「素晴らしい企業」という言葉を聞いても、私には安心材料には聞こえない。道徳的責任を外部委託することに慣れていく文明の姿が聞こえる。
リーダーたちに向き合ってほしい問いがある。もしそのモデルが利益を生むが、判断力、尊厳、信頼を損なうのだとしたら──私たちはいったい何に勝ったというのか。
それこそが「Angelic AI」の核心だ。美徳をアーキテクチャそのものに組み込むこと。回避できるガードレールではなく、最初から人間をループの中に保つよう設計されたシステムを作ることである。
