フランスの経済改革について語るトゥールーズ第1大学教授のジャン・ティロール。
（質問：成田悠輔イェール大学助教授）
──デジタル・ディストピアの着想のきっかけを教えてください。今日の経済学でサイエンス・フィクション的思考実験をするのは極めて異例です。なぜ、SFの世界としてのデジタル・ディストピアを批判し、分析するのでしょうか。
監視（社会）やプライバシーの問題だけではなくで、AI、ビッグデータ、遺伝子（編集）など、さまざまな技術革新は、人々の生活を善くする素晴らしい可能性がある一方で、これまで社会が経験したこともない大きな課題をつきつけるだろう。
私たち社会科学者は、技術が社会にもたらす恩恵を増やし、有害な結末を避ける手助けをするべきだ。だからソーシャル・サイエンス・フィクションが必要になる。いま起きていることを記録するだけではなく、適切な安全策を講じなければ未来に何が起きうるのかを描きたかった。
──今日の技術・データ環境を考慮して、どのような社会的スコアのデザインが社会的に望ましいのでしょうか。
まずシステムに統合される情報は最低限であるべきだ。人々の対立を煽る情報、例えば宗教や民族、性的指向や政治的意見、健康状態やほかのプライバシーに関わる事柄は統合すべきではない。
次に、評価者の個人的なアジェンダによって人々が罰せられるのを防ぐために、評価方法の独占状態を避けるべきだ。もしくは、評価の方法についての原則を法律で制定し、独立した司法が監視しなくてはならない。
三番目に、人々が何によって評価されているのか、その中身をモニターし、間違いや悪意を持った評価を修正する権利を持つべきだ。
最後に「忘れられる権利」というのは多くの法制度の基本的権利であり、宗教上でも重要な教訓だ。人々は自らの行動について責任を負うが、いつかの時点でセカンド・チャンスを与えられるべきだ。そのために「クリーンな履歴」が必要だ。
──社会的スコアの参加者は、明確に同意し、自発的に参加すべきだと思いますか。
自発的なシステムというのは解決策にならないだろう。自己利益のインセンティブが働くので、システムにはまず、高いスコアを得られそうな人、もしくはすでに持っている人たちが参加する。彼らは自分のスコアを他人に見せたがる。そうすると、平均的なスコアの人も「自分たちは何も隠していない」、最下位の人とは違う、と証明するためにスコアを取得して、開示し始める。自発的だとされていたものが事実上の強制になってしまう。
現実世界では、例えば会社が社員、就職希望者にオンラインアカウントのアクセスを求めたり、フェイスブックの友達申請を要求したりすることがあたる。そのような要請は断るのがとても難しい。断れば「何か隠すことがある」と思われかねないからだ。
