次にやってくるのが、自らが不幸な奴隷だと気づいたデータ労働者たちが意味や目的、倫理を意識しはじめる「不幸な奴隷」段階だ。人類がデータで何をすべきなのか考え、悩み、議論し、わめき、団結する。「人間をデータの奴隷にしようとする露悪的な人や組織と、データ利用の倫理や人道を謳う偽善的な人や組織が戦いを繰り広げる世界」だ。
その先に待ち構える世界はさらに強烈だ。露悪と偽善の対立は消化され、全てが自動化されるという。最終段階で、目的や倫理の問題は人間の脳内から蒸発する。「何が善なのか答えがない。だから倫理や目的の定義は第三者、例えばオープンソースとして公開された機械に委ねる。機械がデータから勝手に目的を見つけ出し、最適化された行動を代行してくれる世界です。ガラス張りで裏表のないデータ処理機械に従う、幸福な奴隷状態です」
「生きる目的」も機械が見つけてくれる
この「幸福な奴隷」段階に進むために、成田が提唱するのがEvidence-Based Goal-Making（証拠に基づく目的設定）モデルだ。
「データやエビデンスをどう使うか、という議論をする時、通常考えられるのは政策目標やKPIがすでに存在し、それを達成するためにデータやエビデンスを使って最適な手段を発見したり、手段を改善したりするやり方です。しかし、データやエビデンスを使って、目的自体を発見していくということが可能だと思うんです」。
目的を機械的に生み出すことができれば、決断し選択するための労力や時間を節約し、過去の選択に後悔して苦しむこともない。自分探しと自己責任の終わりなきアリ地獄を脱却できる。それは成田が描く未来の社会像だ。
成田は中学生から哲学者の柄谷行人のグループと交流し、経済学者の青木昌彦率いる仮想研究所に出入りする早熟な学生だった。選ぶことが苦手だったという成田。「経済学を選んだのは消極的な理由でした。そして、気づけば目的が与えられた研究をやっているだけの太鼓持ちになっていました」。数年前から目的を見失い、悩むようになった。
現代の「不幸なデータ奴隷」も最終段階の「幸福なデータ奴隷」も、両方とも意味や目的を自ら選ぶことはできない。その決定的な違いは、前者は自ら選んでいないことを「自覚できていない」点だ。
「かつて政治経済学者は権力と闘って人々の権利と生活を勝ち取る革命家でした。21世紀になって、テック企業がデータを使ったビジネスをやったり、データを使った政策の有効性を測るために経済学者が使われるようになりましたが、審議会やメディアでおしゃべりをしているか、企業でクリック率を向上させているかで満足するようになっている。明らかな没落です。没落しても構わないですが、驚くのはそれに無自覚な奴隷になっていることです」。気づいていない、というのが一番やばいのだ。
成田悠輔（なりたゆうすけ）◎1985年、東京都生まれ。イェール大学助教授。サイバーエージェントAIラボ。東京大学卒業後、同大大学院を修了。2016年に米マサチューセッツ工科大学（MIT）で博士号取得。2016年から現職。独立行政法人経済産業研究所の客員研究員も務める。
