人工知能（AI）は、欲しいものを欲しいときに与えることに非常に長けている。要約でも、メールでも、レポートでも、手短な説明でも、AIは数秒で返してくる。しかも、整っていて自信に満ちたアウトプットに見える。
AIが話題になると、多くの場合は精度や倫理性、あるいは規制すべきかどうかに焦点が当たる。だが筆者は、多くのビジネスリーダーが最大級のリスクの1つを見落としていると考えている。AIが使いやすくなり、依存が深まるほど、人が自分で考えようとする意欲が損なわれかねないという点だ。
役立つ道具から、黙した権威へ
筆者の見立てでは、AIは人が意思決定をするのを助ける道具として意図されたものであり、意思決定そのものを人の代わりに行う存在ではない。だが多くの場面で、その境界線は曖昧になっている。人々はAIに下書きを求め、AIが吐き出したものを実際に結果を確認することなく信じてしまっている。
問題は、AIがときに事実を正しく言えるかどうかではない。多くの人が、AIモデルの発言を疑いもせず受け入れる習慣に入りつつあることだ。だが筆者の経験では、AIを助っ人ではなく上司として扱うことは、むしろ重要な判断を下す力を弱める可能性がある。かつては努力を要したスキルが、次第に「やらなくてもよいもの」に感じられ、AIに丸投げして忘れてしまう対象になっていく。責任と説明責任は、人と機械の間で拡散してしまう。
洗練された出力が誤解を招く理由
この変化が見過ごされがちな理由の1つは、AIの出力がしばしば見栄えがすることだ。構成が整い、プロフェッショナルな語り口に聞こえることが多く、それが偽りの信頼感を生む。読み手は、アイデアが妥当かどうかを問うのをやめ、代わりに文章がどれほど滑らかに書かれているかに目を向けるようになる。筆者が観察してきたところ、こうした変化は時間をかけて、人々の情報評価のしかたを変えていく。その結果、弱いアイデアが広まるだけでなく、分析的思考そのものが徐々に低下することにもつながり得る。
多くの場合、問題はAIが間違っていることではなく、その自信に満ちた語り口が異論を唱えることをためらわせる点にある。すると、読み手は欠落に気づいたり、前提を疑ったりすることが難しくなる。
職場で何が起きるのか
この影響は職場ではっきりと見て取れる。例えば筆者は、新入社員が実際に手を動かして学ぶ代わりにAIを使うケースや、マネジャーが「すでにできている」ように見えるために成果物を丁寧に確認しないケースを目にしてきた。双方とも意思決定は速くなるが、必ずしも良くなるわけではない。
よく起きる結果は、効率は上がる一方で、長期的なレジリエンスが静かに低下することだ。組織は短期的には生産性が高まったように見えるが、時間の経過とともに組織知が失われるリスクを抱える。
AIは、人々の創造性のあり方も変え得る。新しいアイデアをブレインストーミングする代わりに、従業員がAIの提案に過度に頼り、それに自分の意見まで左右されるかもしれない。これはアイデア創出とイノベーションを停滞させるだけでなく、レジリエンスや自律的に考える力も損ない得る。そして、技術が予期せず機能しなくなり、従業員が現実の圧力に自力で向き合わざるを得なくなった場合、このリスクは急速に複合化し得る。
職場でAIのガードレールを整備する
AIを補助役にとどめ、主導権を握らせないためには、仕事の進め方にいくつかのシンプルな習慣を組み込むことができる。
1. AIの答えに従う理由を求める。従業員は、AIの出力を信頼する／しない理由を書き留めるべきだ。加えて、そのAI出力がどのような前提を置いている可能性があるかも書き出させる。その出力を支持する証拠は何か。
2. 人間だけが扱うべき領域と、AI自動化に適した領域を切り分ける。筆者の経験では、AIに委ねるべきではない領域には以下が含まれる。
・何が正しく何が誤りかを明確に判断する必要がある倫理的判断（とりわけ、誤った結果について会社が責任を問われる場合）
・人々の安全に直接影響し得る判断
・採用や懲戒
・重要な顧客対応や個人情報の取り扱い
意思決定が本当に重要で、変更できず、機微であり、あるいは明確でない場合、承認を得て注意深くレビューすることなくAI出力に大きく依存すべきではない。こうしたケースでAIツールを使うとしても、アイデア創出や分析の補助に限定することを推奨する。要するに、できる限り、特に深刻な結果を招き得る判断については、人間がAIの判断をチェックすることを求めるべきだ。
3. 軽量な監督体制を設ける。サンプル監査、重要な出力に対する二重レビュー要件、そして最終判断に必ず責任者が存在するよう明確な承認権限を定めることなどが含まれる。
4. フィードバックループを可視化する。AIが誤った箇所、役に立った箇所、人間が変更した箇所を追跡し、組織が判断力を改善できるようにする。判断を外部委託しないためだ。
最も重要なスキル
AIそのものが問題なのではない。より多くの仕事をこなし、より多くの情報にアクセスできるようにする形でAIを使う限りにおいては、である。重要なのは、機械が自動的な答えを提供する世界で、私たちが良い意思決定を行う能力を失わないようにすることだ。
私たちは、物事を点検し、疑い、自分の頭で考えることを可能にする人間のスキルを、引き続き重んじる必要がある。筆者は、AIによって未来がどうなろうとも、それは機械がどれほど賢くなるかではなく、人々がAIをアシスタントとして使うのか、それとも近道として扱うのかにかかっていると考えている。
