急速なイノベーションは称賛され、独創的で高い知性を示すものとして評価される。しかし、イノベーションのためのイノベーションは近視眼的で、盲点に満ちている可能性がある。私たちが現在生きているこのAI革新の急速な時代を、将来どのように振り返ることになるのだろうか。
（架空の）過去からの教訓
私は映画を見て育ったが、「ジュラシック・パーク」を読んだのは初めてだった。マイケル・クライトン氏による「ジュラシック・パーク」は1990年に初版が出版され、35年以上経った今でも、ぞっとするほど現代に関連している。科学の進歩がもたらす潜在的な結果についての先見性と予兆に、私は圧倒された。同じ批判は、現在のAI技術の進歩にも当てはまる。
パークを実現させた科学者たちを批判して、イアン・マルコム博士（映画ではジェフ・ゴールドブラム氏が演じた）はこう言う。「彼らには知性がない。私が『シンテリジェンス』と呼ぶものを持っている。彼らは目の前の状況しか見ない。狭く考え、それを『集中している』と呼ぶ。周囲が見えていない。結果が見えていないのだ」。
人工的シンテリジェンス
クライトン氏の概念をAIに適用すると、人工的シンテリジェンスは次のように定義できる。新しいものを素早く作り出すため、他者に先を越される前に、そして倫理的な先見性なしに、利益が害を上回るかどうかを想像することなく、技術を急速に進歩させることである。
次の大きなものを開発することへの近視眼的で狭い焦点は、イノベーションの真の価値と疑わしい持続的利益を曇らせる。
小説に戻ると、マルコム氏は皮肉を込めて、掃除機、洗濯機、布地などの進歩にもかかわらず、なぜ家の掃除に1930年と同じくらいの時間がかかるのかと問う。彼は「進歩がなかったからだ。本当に」と主張する。これは少し誇張されていると思うかもしれないが、彼はイノベーションそのもののための無益さについて的確な指摘をしている。ロボット掃除機が私なしで掃除を続けられるように修理したり詰まりを取り除いたりするのに費やした時間は、確かにその有用性を疑問視させる。
「できる」対「すべき」
「あなた方の科学者は、できるかどうかに夢中で、すべきかどうかを考えることを止めなかった」。これは「ジュラシック・パーク」で探求され、映画版でマルコム氏が声に出した道徳的問いである。
「シンテリジェント」な科学が生産され市場に出された後、誰が責任を負うのかという問題は、考慮すべき重要な問題である。責任は容易に拡散し、非難は創造者からエンドユーザーへ、そしてまた戻ってくる。
ジュラシック・パークから生じた大惨事の後でさえ、起業家で創造者のジョン・ハモンド氏は最後まで責任を負うことを拒否した（ハモンド氏への報いは、映画よりも本の方がはるかに厳しかった）。彼は、変異に固執しすぎたチーフ遺伝学者のウー氏、慎重すぎた投資家代理の弁護士ジェナーロ氏、そして邪魔をした自分の孫たちを非難した。典型的な悪役の独白スタイルで、彼はすでに別のパートナーと別のパークで何ができるかを計画していた。
イノベーションの見せかけ
リーダーにとって、AIを採用しないことは、うまく機能しないAIを採用するよりも、評判上リスクが高い可能性がある。リーダーの信頼性は、短期的には、たとえそれが目的に適していなくても、効率を高めなくても、AIを職場に導入することで強化される可能性がある。
それは、組織とリーダーがイノベーションを示すことに大きなプレッシャーがあるためである。このパフォーマンス的な性質は、私たちが多くのAIの進歩を開発し受け入れたのは、できたからであって、すべきだったからではないことを証明するかもしれない。
人工的シンテリジェンスの影響は、ある分野では他の分野よりも有害である可能性がある。自信に満ちた出力を生成する診断医療ツールは、不十分なデータに基づいている可能性がある。法的事例予測ツールは、管轄権や文脈のニュアンスを見落とす可能性がある。人事における採用ツールは、偏ったトレーニングデータからのパターンマッチングに基づいている可能性がある。これらの悪影響はすでに表面化し始めている。
AIは「シンテリジェント」であることが証明されるだろうか。私たちは皆、焦点が狭すぎることから転換する質問をする役割を担っている。舞台裏で何が起こっているのか。誰が悪影響を受けているのか。これらの生成された決定は何につながるのか。「ジュラシック・パーク」のような先見性のあるSFは、私たちに問い続けることを思い出させてくれる。
