またコンピューターには、「停止問題」というおかしなホラーストーリーのような自己矛盾論理がある。いくら計算しても答えが出ずに永遠に演算を続けるコンピューターを想定し、論理だけですべてに回答は出ないことを証明するためにチューリングが考え出した論理だが、永遠に計算を続ける機械という存在は生命を超えた別の何かだろう。
『＜神＞の証明』で数理神学を説く落合仁司は、「神という無限の存在を理論化しようと、数学者が無限という概念を探求した」と説くが、まさに永遠に無限に運動を続ける存在は人知を超えている。
さらに現代社会は「普遍性、瞬間性、直接性」という、もともと神の力とみなされていた性質を手にした、と仏哲学者のポール・ヴィリリオは『電脳世界』の中で述べているが、世界の果てまでどこにでも広がり、瞬時に直接相手にコンタクトできるコンピューターネットワークは、まさに現代の無限の神話そのものなのだ。
倫理的な不安に正解はない
そこまでいかないまでも、昨今の話題となっているのは、徐々に性能を向上させているAIを野放図にしておくことの危険性だ。当初のAIは論理的にプログラムとして書ける知識を元に、人間より早く広範なデータから、よりよい解決法を示してくれるはずのものだった。
ところが最近の深層学習などの手法は、人間の脳神経に似たモデルに大量のデータをとてつもない回数処理させて、経験値を上げることで解答を得ている。結果的に人間より早く、より正確な答えを出してくれるという実用性はあるものの、なぜそのような回答が導かれるのかを説明することができず、ブラックボックスであると不安視されている。
便利で優秀なAIだが、目先の効用だけに目を奪われていると、AIが人種差別をした、兵器に応用されて人間の指令もなく殺人を犯す、といったさまざまな「倫理的問題」が出てくると指摘されている。OECDや日本の人工知能学会でも「倫理指針」を発表しており、実用性ばかりでなく、AIが社会に悪影響を与えないかの論議が始まっている。
しかし、こうした文書を読んでみると、それには問題を起こさないための明確な方法は書かれておらず、だいたいは何か不都合が生じたら是正するという精神論しか書かれていない。それは専門家の怠慢に思えるが、逆にどんな問題も永遠に誰もが納得できる解決法をあらかじめ予想することはできないだろうし、ある人にとって正しい行動が、逆の立場の人にとっては真逆の意味を持つこともあり、正解というものはないというジレンマが見えてくる。
AIは単なるテクノロジーの話ではない
これはある意味、ゲーム戦略に近い話なのかもしれない。囲碁や将棋で眼前の状況を打開するために打つ手は、その場限りであってはならず、短期的にたとえそこで駒を取られたとしても、長期的・最終的には勝利することを目指さなくてはならない。目先で考えれば得な話も、それを選べば将来はそれが損につながる、といった事例は株式市場だけでなく日常生活のすべての選択についてくる悩ましい問題だ。
どちらかが勝ちどちらかが負けるという、有限のゼロサムゲームの論理を超えて、地球や宇宙の規模から問題を俯瞰するという、もう一つ上の大きな次元やビジョン、もしくは無限のゲームという視点から論議をしないと回答は得られないのかもしれない。
倫理ばかりか、知能や生命といった誰もが理解しているように感じるも定義できない概念を、テクノロジーによってどこまで扱うことができるのか？ コンピューターという機械が、生と死を理解すれば心や魂をもった人間と対等な存在となるのか？ AIはそうしたもっと深い人類の問題を提起しているはずで、ただのブームとして論議するだけではもったいない。
