「解決策など存在しない。あるのはトレードオフだけだ」と、トーマス・ソウェル氏は書いている。AIシステムの導入は、多くの意思決定に内在する困難なトレードオフを反映する必要があり、最終的な決定には人間の価値観が反映されなければならない。
ある卸売業者の倉庫が50年前にレイアウトされ、その後、スペースのニーズが変化するたびに調整されてきたとしよう。新製品が導入され、古い製品が廃止され、個々の商品の販売量が増減した。倉庫は混乱状態だが、AIがそれを解決できる。AI搭載ツールには、保管すべきすべての製品に関するデータ（サイズ、重量、販売量など）が入力される。AIには、フォークリフトやコンベヤーベルトなどのマテリアルハンドリングオプションを含む棚のカタログも提供されるだろう。安全基準もシステムに提供される。
これは素晴らしいアプローチのように聞こえるが、目標とトレードオフを考慮すると話は別だ。
AI意思決定における資本と労働のトレードオフ
人間は、AIに何を求めるべきかを決定しなければならない。倉庫の再設計における明白な目標の1つは、物を移動するのに費やす人間の時間を最小限に抑えることかもしれない。しかし待ってほしい。AIはどの倉庫設備カタログを見ているのか。低予算のカタログもあれば、ニーマン・マーカス的なアプローチもある。資本コストと労働コストの間には常にトレードオフが存在する。設備投資に関する決定には、資本投資がどれだけ持続するか、将来的に労働コストがどのように変化するかに関する情報が必要だ。この選択は、ロボットなど、今後数年間のマテリアルハンドリング技術の改善の可能性にも影響される。静的な世界では、決定は複雑かもしれないが決定論的だ。つまり、インプットがアウトプットを一意に決定する。しかし変化する世界では、技術の将来と労働コストの見通しについて、ある程度の判断を下さなければならない。そして、その判断は、ロボットフォークリフトとローラートラックの価格推移の違いに注目するなど、かなり細かいものになる可能性がある。
資本支出と労働支出の間のこのトレードオフは、多くの分野で発生する。ファストフード店の注文キオスク、医療クリニックのオンライン予約管理、警察官の代わりの赤信号カメラなどだ。金利が低ければ、より多くの自動化が正当化されるが、それでも将来の労働コストの予測に依存する。私たちは賃金率の上昇に慣れているが、AIが労働需要を大幅に減少させ、人間の労働者が実際に将来的に安くなる可能性はあるだろうか。AIシステムに技術開発と将来の労働コストを予測するよう求めることはできるが、完璧を期待すべきではない。重要なビジネス判断には人間の判断が必要となる。
AI意思決定における現在のニーズと柔軟性のトレードオフ
多くのビジネスシステムの設計、そしてほぼすべての物理的構造の設計には、もう1つのトレードオフがある。現在のニーズを満たす効率性と、変化に対する柔軟性だ。その倉庫は、新製品、新しい販売量、そしておそらく配送と出荷の異なるパターンに対応する必要がある。今日に最適化されたシステムは、変更するのにコストがかかる可能性がある。
AIは、過去を調べることで、将来の変化の分析に必要な情報の開発を支援できる。新製品はどのくらいの頻度で追加され、古い製品は廃止されるのか。より重い箱への傾向はあるか。しかし、これらはAIが完璧に行うことのできない予測だ。AIモデルは人間よりも予測が得意になるかもしれないが、人間は主要なビジネス決定をAIに委ねることには慎重であるべきだ。
繰り返すが、このトレードオフは多くのビジネスプロセスの決定に適用される。企業顧客へのマーケティングと中小企業へのマーケティングを分離した場合、その決定と永遠に付き合いたいだろうか。そうでない場合、変更は困難だろうか。州立大学からのエンジニアの採用を停止した場合、来年の就職説明会に戻ることは困難だろうか。
AIシステムは多くの機能を最適化できるが、変化する状況への適応の容易さは、あらゆる決定の一部でなければならない。そして、それには将来的に変更を望む可能性と、変更を実施するコストの両方についての判断が必要だ。
AI意思決定における安全性のトレードオフ
倉庫の例では、AIシステムに安全要件を提供することを提案した。多くの業務において、安全基準は政府規制当局や業界団体によって、あるいは少なくとも業界内の一般的な慣行によって作成される。通常の基準を超えることが理にかなう場合はあるだろうか。
特定の状況における労働災害は、より高コストの設計によって減少する可能性がある。企業は負傷を減らすためにどれだけ支払う意思があるだろうか。医療費と休業時間に基づいた金銭的な計算が可能だ。労働者災害補償制度下の米国企業は、保険会社から事故のコストの概算を得ることができる。しかし、数値計算では、負傷者の痛みや、職場での負傷を目撃した後に他の従業員が抱く恐怖はカバーできない。企業の価値観と文化が関わってくる。
職場の安全性はすぐに思い浮かぶが、消費者製品の安全性も注目に値する。データセキュリティは、金銭的な計算を超えて顧客満足度を含む。顧客満足度は、データがハッキングされた後に低下する。
トレードオフと価値観
多くの重要な決定には、トレードオフの中心に人間の価値観がある。コメディビデオシリーズMurderbotには、集団への忠誠心から個人的なリスクを取る人間に困惑するロボットが登場する。しかし、それは私たち人間が行うことだ。私たちは他者を気にかける。彼らの福祉、安全、感情を。人間の価値観が関わる場合、人間が選択を主導しなければならない。AIはトレードオフを理解する手助けをしてくれるが、最終的には人間が重要な決定を下さなければならない。
