Info-Tech Research Groupのディスティングイッシュド・アナリスト兼リサーチフェロー。プロジェクト、ポートフォリオ、変革に関する洞察と提言を行う。
以前は、AIチャットボットが数秒でスライドデックを作成してくれた時の達成感が大好きだった。そのドーパミンの高揚感は本物だった—優れたスライドデックの作成には1枚あたり約1時間かかる。今では、主要な成果物をリストから数分で片付けられる。
しかし、何かがおかしいと気づいた。AIが生成したコンテンツはすぐに公開できる状態ではなく、生産性向上に見えたものは実は先送りされた義務だった。AIは私の仕事をしてくれたわけではなく、むしろ私にさらなる仕事を作り出していた。そしてドーパミンはコルチゾールに変わった。
そこで気づいたのだ：時間を節約していたのではなく、さらなる義務を作り出していたのだと。
認知的負債の世界へようこそ：AIの出力に対応するという未払いの義務のことだ。
AIの出力はほぼ無料の資産のように感じるが、隠れた負債を伴っている。誰かが脳のパワーを使って、そのドキュメントを消費し、評価し、解釈し、改善し、分類し、分析し、統合し、精査し、保存し、共有する必要がある。
それまでは、認知的負債は人間の注意力でしか返済できないため、AIの使用はすべて利益のないコストだった。
この冷静な認識は急速に広がっている。AIの採用が未検証の仮定、未検証の結論、未探索の意味、未測定の結果へと拡大するにつれ、AIはアジャイルが技術的負債を生み出した以上に速く認知的負債を生み出している。
認知的負債が指数関数的に増加する仕組み
AIの作業をレビューする時間を取っても、何かがおかしいと感じることがある。なぜだろうか？私たちは行動によって考える。通常、問題を解決しようとして深く悩むまで、問題自体を理解できないのだ。
私たちは悩み、問題を再評価し、新しい解決策を想像し、それを解決したことに満足感を得る。これを繰り返す。それは人間の魂のためのエクササイズのようなものだ。私たちは答えを繰り返し改善するだけでなく、問い自体を継続的に再考する。最終的に解決策を得たとき、それは通常、元の問いとは異なる問いに答えているのだ。
イノベーションは、何よりも、正しい問題を解決するまで問題を再構築することを含む。
認知的負債が未検証の出力から生じるなら、問いが有効かどうか確信が持てない場合にはさらに悪化する。その不確実性は、認知的負債に利子が付くようなものだ。
規模拡大とともに成長する問題
AIの出力を使用することは、最初に思われるよりも難しい。各成果物は独自のプロンプトから生成され、モデルにはそれぞれ、トレーニングを上書きできる進化するガードレールのセットがある。回答は時間とともに変化する可能性があるため、新しいAIスライドデックは、読んでいない白書を誤って表現するリスクがある。
プロンプトに対する個々の応答を消費するだけでは不十分だ。それらを調整する必要がある。そうしなければ、異なるモデル、ガードレール、時間枠で生成されたAI成果物のコレクションは、洞察ではなく曖昧さを生み出すだろう。
つまり、認知的負債はAIの出力をレビューして調整しない時に生じる。間違った問いに答えたり、出力量を拡大したりすると、利子が発生する。
消費だけでは不十分な理由
最初は、認知的負債を回避するためにAIの出力をレビューして何をすべきか決めることが解決策のように思える。しかし、勤勉な消費だけでは結果は保証されない。問題の根本は未検証のAI出力にあるのではなく、それを消費する人の適性にある。
ここで冷水を浴びせられたような気分になった。私はCopilotライセンスを使って新しい分野で働くことはできない。私はアプリケーションの専門家であり、AIはオフィスネットワークや販売報酬プログラムの設計を手伝ってくれるわけではない。
質問を与えられても、答えを評価したり、さらに質問を重ねたりすることはできないだろう。事実と誇張を区別したり、競争上の脅威を理解したり、クライアントを疎外することを避けたりするのに苦労するかもしれない。
近接探究領域
最近注目されているヴィゴツキーの「発達の最近接領域」（ZPD）という考え方を見てみよう。これは学習者が独力で達成できることと、指導を受けて達成できることの間の距離を明らかにする。これらの洞察は、達成可能なことを追求するようコーチングすることで、人間が潜在能力を発揮するのを助けている。
確かに、月を目指すようチームに言って鼓舞しようとするかもしれないが、そのような刺激はすぐに衰える。私たちは、発達の最近接領域内の仕事を与え、導いてくれる優れたコーチを付け、成功したときに強化することで、人々を成長と偉大さへと導く。
私は、近接探究領域（ZPI、と私が呼んでいるもの）が発達の最近接領域と完全に重なる相関関係があると信じている。ZPIとは、私たちが尋ねる準備ができている質問と、評価する準備ができている回答の間のギャップだ。回答を判断するための知識やコンテキストが不足している場合、質問はあなたのZPIの外にある。
ここに生成AIの醜い側面がある。私たちは人々にZPI内でのみ有用なツールセットを提供している。ZPIの外では、価値ではなく認知的負債を生み出している可能性がある。私は数学の学位を持ち、コンピュータサイエンスで問題を解決してきた40年の経験があるが、AIが生成したがん治療に関する推奨事項は、腫瘍専門医が評価するまでは認知的負債だ。
結論
AIツールを導入して人々を仕事に就かせるだけでは不十分だ。リーダーとして、私たちは人間のスキルに根ざし、人と仕事をマッチさせる必要がある。AIは私たちの能力を低下させるのではなく、実際には判断力の必要性を強めている。
認知的負債は、勢いを意味と取り違えると爆発的に増加する。それを防ぐには、想像力が洞察と出会う近接探究領域内で、専門家を活用しよう。
