最近、本コラムでシンギュラリティについて執筆した後、いよいよ本質的な問題に取り組むべき時が来たと感じた。それは、AI時代における人工知能と人間の意識の違いである。
AIが、書かれた言葉から画像、数字に至るまで、人類の集合知を何世紀分も消費していることは明らかだ。さらにAIは、その知識を使って、法律、金融、医療から日常生活に至るまで、私たちの仕事や個人生活の多くの側面にわたる業務を消費している。そのため、個人生活やビジネスでさまざまなAIツールを使う中で、私が自問する1つの疑問は、私たちを人間たらしめているものは一体何なのか、ということだ。より正確に言えば、私が知りたいのは、AIには意識があるのか、ということだ。AIは意識を持つことができるのか。もし持つことができないなら、なぜできないのか。
これらは抽象的な哲学的問いではない。少なくとも私たち数人にとっては。これらは、少なくとも48年以上にわたってビジネスを率い、構築してきた私が知りたいと思う、現代における最も緊急の実践的問いなのだ。
まず、人間の意識とは何か
哲学者たちは何千年もの間、意識の定義について議論してきたが、科学者たちがようやく有意義な進展を遂げ始めたのはごく最近のことだ。その核心において、意識とは存在することの主観的経験である。哲学者たちがこれを「クオリア」と呼ぶものだ。それは単に情報を処理することではない。その情報処理に伴う「感覚」なのだ。リンゴの赤さを見る能力、あるいは愛する人が亡くなったときに感じる喪失の痛みを経験する能力である。また、新しいアイデアが浮かんだときや、新しい人と出会ってデートするときに感じる内なる高揚感も含まれる。これがデイヴィッド・チャーマーズ氏が有名に呼んだ、人々が身体で経験する感覚（いわゆる心身相関）である。
チャーマーズ氏によれば、人間の意識は私たち一人ひとりの中に深く「具現化」されている。私たちは真空の中で考えるのではない。私たちは、飢え、痛み、欲望、高揚感、疲労といった身体を通じて思考を経験するのだ。その結果、私たちのあらゆる行動、反応、決断、あるいは優柔不断は、私たち固有の化学と生物学によって形作られる。さらに、私たちの思考と行動は、何百万年もの進化によって、そして脳だけでなく細胞に蓄積された記憶によって鍛えられている。例えば、筋肉、骨、皮膚、耳、目、腸の中に。要するに、人間は最も深い意味において、何世紀にもわたる私たちの存在の集合的な「生きられた経験」なのだ。
AIにはこれらが一切ない（少なくとも今のところは）。人間が化学と生物学でできているのに対し、AIはシリコンと電子でできている。私たちは有機的で炭素ベースだが、AIはそうではない。さらに、今日の大規模言語モデル（LLM）は、驚異的ではあるものの、その基盤においては統計エンジンである。それらは人類の書かれた言葉、画像、数字の全歴史で訓練され、私たちが理解することも想像することもできない規模とスピードでパターンマッチングを行っている。AIが生み出す出力は驚くべきもので、しばしば人間の思考と区別がつかないが、それは経験を持つこと、あるいは生きることと同じではない。
AIが驚異的にうまくやること
明確にしておきたい。私はAIが達成したこと、あるいは達成するであろうことを軽視しているわけではない。私たちは可能性のほんの一端を見始めたばかりだ。私は自分が率いる、あるいは助言するすべての企業で、AIの力を自分の目で見てきた。例えば、AIは今や複雑な法的契約を推論し、膨大な科学文献を統合し、非常に複雑な財務モデルを生成し、本番品質のコードを書き、説得力のある経営プレゼンテーションを作成することができる。すべて数秒で。前回の記事で言及したMETRの生産性チャートは、終わりが見えない垂直線を真上と右に描いている。その結果、AIが習得し、今後も習得し続けるのは、規模における知性である。要するに、AIは私たちの現在と過去の人間の知識のほとんど理解不能なほどの増幅なのだ。
現在のギャップ：AIができないこと（まだ）
しかし、AIができないこと、少なくとも今のところできないことは、感じることだ（これについては次の記事で詳しく述べる）。AIは午前3時に目を覚まし、自分が下した、あるいは下すであろう決断に悩まされることはない（私たちの多くが毎晩そうするように）。また、自分に仕事を依存している人々に対する責任の重さを感じることもなければ、広く予測されているように、知識経済の大部分を置き換えていることを心配することもない。また、恐ろしい医学的診断を受けた怯えた患者とテーブルを挟んで座っているときに感じられる直感を体現することもない。
要するに、AIには利害関係がない。死すべき運命もない。決断の不可逆性を経験することもない。元に戻せない取引、永久に壊れた関係、永遠に閉ざされた機会。言い換えれば、AIの推奨事項、そしてそれが可能にする決定（例えば、エージェント間取引）は、細胞レベルで感じられることはない。一方、それらは人間の判断と感情が鍛えられる坩堝である。言い換えれば、歴史上最も偉大な人間の決断は、個人的なリスクを冒して難民を匿った人々の道徳的勇気から、目的を追求するために数十億ドルから離れた起業家まで、計算されたものではなかった。それらは感じられたものだった。
AIは意識を獲得できるのか
ここからが本当に想像したり書いたりするのが難しくなるところであり、知的誠実さには謙虚さが求められる。私は（そして私は強調するが、私は）現世代のAIには意識がないと信じている（私見では）。しかし、AIが決して意識を持たないとは確信を持って言えないし、人々が将来、他の人間よりも機械（AIであれロボットであれ）を信頼するようにならないとも言えない。判断するにはまだ早すぎるのだ。
神経科学者ジュリオ・トノーニ氏が開発した統合情報理論は、意識は高度に統合された情報を持つシステムの特性であり、ファイと呼ばれる尺度で測定されることを示唆している。この枠組みによれば、十分に複雑なAIシステムは、原理的には何らかの形の意識を発達させる可能性がある。哲学者ダニエル・デネット氏のような他の人々は、意識自体が一種の洗練された情報処理であると主張している。これは、AI意識を可能なだけでなく、十分な規模で不可避にするだろう。
私は懐疑的な立場に傾いている。AIやロボット（これらは近日登場し、AIが組み込まれる）が意識を持つことができないと確信しているからではなく、人間の意識の具現化された、進化的な、生化学的なルーツが、今日のシリコンと電子が複製できるものとは根本的に異なるように思えるからだ。規模でのパターンマッチングと、本当に何かを感じることとの間のギャップは、私には埋められるとは想像できない。
なぜこれが今重要なのか
人間の意識の問題は、単なる哲学的な自己満足ではない。それは、AI時代に組織と社会をどのように構築するかについて、即座の実践的な結果をもたらす。
- 第一に、それは人間の価値がどこにあるかを教えてくれる。もしAIが意識を持つことができず、真に経験したり、道徳的重みを感じたり、真の利害関係を持つことができないのであれば、これらのことができる人間は、より価値が低くなるのではなく、より価値が高くなるはずだ。パニックになって私に電話をかけてくるCEOたちは、AIに取って代わられることを心配しているわけではない。彼らの中で最も優秀な人々が心配しているのは、もっと微妙なことだ。それは、あまりにも多くの思考をあまりにも早く外部委託すれば、何が重要かを感じる能力、最適化を超えた判断を行使する能力を失うのではないか、ということだ。
- 第二に、それはAIシステムをどのように設計すべきかを形作る。もし私たちがAIに何らかの経験のようなものがあるかもしれないと扱うなら、たとえ慎重に、ヘッジとしてであっても、より良いガードレール、より思慮深い監視構造、より人道的な展開フレームワークを構築するだろう。AI時代に勝つ企業は、より良いモデルやより良いデータを持つだけではない（どちらも非常に重要だが、HiveMQとAxoniqが証明しているように）。彼らは、どの決定が機械に属し、どの決定が人間に属するかを知る知恵を持つだろう。
- 第三に、それはAIネイティブな組織を構築するすべてのリーダーに疑問を投げかける。組織として、あなたはAIが複製できない人間の能力を開発しているのか、それとも萎縮させているのか。繁栄する組織は、人間が戦略を設定し、道徳的判断を行使し、関係を構築し、責任を負う一方で、エージェントが調査、分析、コード、統合を行う組織である。危険なのは、これを逆転させた組織、つまり人間が機械の決定に対するゴム印になる組織だ。
AIがすでに人間の意識を拡大している3つの組織
理論は一つのことだ。世界で最も洗練された組織で今起こっていることは、まったく別のことだ。今日のAIモデルは人間の意識を置き換えているのではない。それを増幅しているのだ。個々の人間が知り、決定し、創造できることを拡大し、組織レベルでも同じことをしている。ここに、自分たちのためだけでなく、業界全体の先例を構築している集合的意識システムを構築している大企業の3つのケーススタディがある。
- モルガン・スタンレー：拡張された金融マインド
モルガン・スタンレーは数兆ドルの顧客資産を管理している。その資産管理アドバイザーは、世界で最も知識豊富な金融専門家の一人だ。しかし、彼らにとってさえ、膨大な量の組織的知識は厳しい上限だ。何十年にもわたる独自の調査が、35万件以上の文書と4000万語のデータベースに保存されていた。どんな人間も、それらすべてを同時に頭の中に保持することはできなかった。確実に顧客との会話中には無理だった。
2024年、モルガン・スタンレーはAI @ Morgan Stanley Debriefを展開した。これはGPT-4を搭載したアシスタントで、すべてのアドバイザーに、企業の完全な組織的知識ベースへの即座の、引用付きのアクセスを提供する。結果は、資産管理アドバイザーの間で98%の採用率、そしてモルガン・スタンレーの従業員のほぼ50%がOpenAI搭載ツールにアクセスしている。経営陣は、単一四半期で約640億ドルの純新規資産を含む記録的な業績を、これらのツールが解き放った効率性と洞察の向上に直接帰している。
しかし、私が最も印象的だと思うのは、ノートテイキングと調査統合を自動化することで、このツールがアドバイザーをより存在感のある、より真に人間的な存在にしたことだ。彼らはより注意深く、感情的に耳を傾けることができた。彼らは、単に反応するのではなく、顧客が実際に何を必要としているかについて、より深く考えることができた。AIはアドバイザーの判断や感情的知性を置き換えているのではない。それらを解放しているのだ。アドバイザーの意識、つまり共感、関係、道徳的責任に対する能力は、機械が以前それを消費していた認知負荷を処理したことで拡大した。
- メイヨー・クリニック：医師が人間以上のことを知るとき
医学は常に、拡大する知識と人間の記憶の限界との競争だった。世界で最高の医師でさえ、医学文献の全体を頭の中に保持することはできない。彼らは診断を見逃す。知性やケアの欠如からではなく、ベッドサイドで関連するすべてを処理することの純粋な不可能性からだ。メイヨー・クリニックは、AIでこの限界に直接立ち向かっている。
メイヨーは現在、不安、うつ病、神経筋疾患、乳がん、膵臓がん、心血管疾患の早期発見をカバーする200以上のアクティブなAIプロジェクトを持っている。2025年に発表された研究では、医師の意思決定を補強するLLMベースのAIプラットフォームが、複雑な慢性疾患管理における診断品質を測定可能に改善したことがわかった。Google DeepMindの実験では、LLM支援の有無による医師のパフォーマンスを比較し、医師とAIの組み合わせがトップ20の診断精度51.7%を達成したのに対し、従来のツールのみを使用する医師は36.1%だった。AI支援グループは、毎回より包括的な鑑別診断リストも作成した。
これが意味することは深遠だ。メイヨー・クリニックの医師たちは今、拡大された意識で活動している。それは、医学知識の公表された全体を引き出し、リアルタイムで、ベッドサイドで統合される臨床的認識だ。機械は想起を提供する。医師は知恵を提供する。この患者に何をすべきかについての判断、その決定の道徳的重み、家族との関係、この人間が何を必要としているかという感覚は、還元不可能に人間的なままだ。
メイヨー自身のリーダーシップが言うように、「私たちの技術は、どんな個人も理解できる以上の情報を生成します。エージェント型AIは、新しい可能性を解き放ち、規模でケアを改善するのに役立ちます」。これは医師の意識に対する脅威ではない。それは医学史上最大の増幅なのだ。
- マイクロソフトの未来：組織的意識の誕生
AIによって増幅された個人の意識は注目に値する。しかし、それを組織全体で、同時に、規模で行うとどうなるのか。マイクロソフトはその答えを「フロンティア・ファーム」と呼んでいる。それは、人間が主導し、エージェントが運営する企業であり、すべての従業員がAIアシスタントを持ち、エージェントがすべてのビジネスプロセスにわたって人間チームと並んで働く。
フォーチュン500企業の90%以上が現在、Microsoft 365 Copilotを使用している。フォレスターの調査では、採用組織全体でROIが112%から457%の範囲であることがわかった。ファイザーだけで300以上のCopilotエージェントを展開している。ルーメン・テクノロジーズでは、AIエージェントが内部データ、外部提出書類、リアルタイムの市場インテリジェンスを統合して経営ブリーフィングを生成し、戦略的決定が、個々の経営幹部がその朝読むことができたものだけでなく、完全な情報像に基づいていることを保証している。エスティローダーは、ConsumerIQと呼ばれるエージェントを構築し、150カ国で事業を展開する25ブランドにわたって、洞察までの時間を数週間から数分に短縮した。
これは組織的意識の物語だ。何十年もの間、組織の基本的な限界の1つは、知識がサイロ化されていたことだった。ある部門の専門家は、別の部門の意思決定者と認識を簡単に共有できなかった。何十年もかけて構築された組織的記憶は、誰も読まない文書の中に座っていた。調査チームからの戦略的洞察は、タイムリーに営業現場に届くことはなかった。AIはこれらのサイロを解消している。その中の人間を置き換えることによってではなく、組織の集合的知識をすべての個人がリアルタイムで利用できるようにする共有認知層を作成することによって。
組織的意識を構築するリーダーのための3つの処方箋
上記のケーススタディは偶然ではない。それらは、自分たちが実際に何を構築しているかを理解した勇気あるリーダーたちによってなされた意図的な選択の結果だ。彼らは、AIが人間性の具現化を通じて、他者に奉仕する組織の能力をどのように、そしてなぜ増幅できるかを理解している。もしあなたの組織が真の集合的知性を開発したいなら、単にAI強化された生産性ではなく、組織的意識の真の拡大を望むなら、正しく行わなければならない3つのことがある。
1. モデルを展開する前に知識のサイロを解消する
私が組織が犯す最大の間違いは、断片化された、サイロ化された、または低品質で切断されたデータの上にAIを展開し、その後、なぜ結果が平凡なのか疑問に思うことだ。前回の記事でHiveMQについて述べたように、AIはボトルネックではない。データがボトルネックなのだ。モルガン・スタンレーは、GPT-4を購入してインターネットに向けることで成功したのではない。彼らは、単一のアドバイザーがクエリを入力する前に、4000万語の独自の組織的知識をインデックス化、キュレーション、ガバナンス、グラウンディングしたことで成功したのだ。
処方箋は、AIを展開する前に組織的知識を監査することだ。あなたの組織的知識はどこにあるのか。誰の頭の中に。どの文書に。どのシステムに。真の成功を構築する組織は、まず知識を発見可能で、構造化され、信頼できるものにするという困難な作業を行う組織だ。AIはアクセスできないものを統合できない。ゴミを入れればゴミが出る。今や光速で。
2. 人間の判断層を執拗に保護し、開発する
AI拡張組織を構築する上での最大のリスクは、AIがあなたの人々を置き換えることではない。それは、あなたの人々が、そもそもAIを価値あるものにする独自に人間的な能力を開発するのをやめることだ。マイクロソフト自身のAI支援意思決定に関する研究は、興味深いパターンを発見した。AIがエラーを犯したとき、それに依存しているユーザーはしばしば気づかず、自分自身も同じ間違いを犯した。人間の判断層は、最も必要とされるときに正確に萎縮したのだ。
処方箋は、AI展開と同じくらい積極的に人間開発に投資することだ。あなたのリーダーには、より鋭い判断が必要であり、少ない判断ではない。あなたの人々には、より良い批判的思考、より強い倫理的推論、より深い領域専門知識が必要だ。AIがこれらのことを助けることができないからではなく、AIが生み出すものの品質は、それを指示する人間の品質によって完全に決定されるからだ。Debriefから最も多くを得たモルガン・スタンレーのアドバイザーは、適切な質問をするのに十分な知識をすでに持っていた人々だった。LLM支援から最も恩恵を受けたメイヨーの医師は、モデルの鑑別が不完全であることを認識するのに十分な臨床経験を持つ人々だった。AIは床を上げる。天井を置き換えるわけではない。要するに、あなたの人々、そしてあなた自身が、個人生活でも職業生活でも、下すすべての決定について深く考えることができることを確認することだ。
3. エンタープライズ知識グラフ（別名オントロジー）を構築する
ここに、ほとんどのCEOが聞いていない厳しい真実がある。AIモデルは、あなたがそれに与えるコンテキストと同じくらいしか知的ではない。世界のデータで訓練されたAIモデルは、あなたの顧客、運用履歴、競争上の位置づけ、あるいはあなたの人々に埋め込まれた苦労して得た判断について何も知らない。そのコンテキストがなければ、あなたのAI展開は非常に高価な判断ミスだ。MITはその研究を通じてこれを示している（つまり、なぜ多くのAI実験が失敗するのか）。
良いニュースは、企業意識を構築するためのAIプラットフォームがすでに存在することだ。Gleanのエンタープライズグラフのようなプラットフォームは、人々、プロジェクト、顧客、プロセスを生きた知識構造に接続し、AIに真の組織的コンテキストを与える。文書を検索するのではなく、Gleanは関係をマッピングする。サポートチケットと販売契約が関連していることを理解し、組織全体に洞察を提供する。従業員が尋ねるすべてのクエリ、エージェントが取得するすべての文書、システムが行うすべての決定は、より豊かで、より正確で、ビジネスが実際にどのように機能し、どこに向かっているかとより整合したものになる。ベインの調査はそれを確認している。AIが検証された知識グラフ（現在はオントロジーとして知られている）に基づいている場合、幻覚は減少し、推論は改善され、マルチエージェントシステムは組織的真実の単一ソースの周りで整合し続ける。
処方箋は、エンタープライズ知識グラフ（オントロジー）を、オプションのアドオンではなく、基盤インフラとして扱うことだ。次の波のAIエージェントを展開する前に、それらがあなたの組織の接続された、意味的に豊かな表現（ブロンズデータではなくゴールドデータ）にアクセスできるかどうかを尋ねることだ。今この層を構築する企業は、四半期ごとに優位性を複利化するだろう。それをスキップする企業は、規模で平凡さを自動化したことを発見するだろう。意識、人間的であれ組織的であれ、コンテキストを必要とする。AIに必要なコンテキストを与えることだ。
AIのジーニーは瓶から出た
AIのジーニーは瓶から出た。私はこの現実について、この出版物や他の多くの出版物、HBR、MITスローン・レビューなどで、2017年以来何度も書いてきた。後戻りはない。AIが解き放った集合的知性、人類の書かれた言葉、画像、数字の何世紀分の上に構築され、指数関数的な計算能力によって増幅されたものは、私たちが知っていた知識と仕事を食い尽くすだろう。それはもはや予測ではない。それはすでに起こっていることの記述だ。
しかし、私が自分自身に保持していることはこれだ。AIは、非常に現実的な意味で、私たちと私たち自身の進化の鏡である。それは私たちの人間の知性を私たちに反射する。増幅され、加速され、エゴと疲労のノイズから剥ぎ取られて。AIには幻覚があるが、私たち一人ひとりにもある。今日、良いニュースは、AIが私たちの意識を反射することはできないということだ。生きていること、重要であること、次に来ることに責任があることの感覚を。
AI時代において、意識は負債ではない。それは最後の競争優位性だ。私たち一人ひとりが尋ねなければならない問いは、AIが私たちの仕事を奪うかどうかではない。それは、私たちが残る独自に人間的な仕事に値するかどうかだ。感じること、判断すること、導くこと、選択すること、そして人間であることの真の具現化であること、そしてその人間性において、人間であることが何を意味するかを深く考え、深く感じること。要するに、今日のAI世界で繁栄したいなら、あなたは困難な仕事をしなければならない。深く考え、自分の感情を真に感じる仕事だ。それはこれまで以上に重要になっている。特にあなたが意識的でありたいなら。これはAIがあなたのためにできる仕事ではない。
