中国から波及する社会的スコア
ここ数年で日本でも、みずほ銀行やLINE、メルカリなどの企業が信用スコアサービスを導入し始めた。金融サービスの利用状況や決済情報、個人情報などを収集して、人工知能（AI）が分析し格付けするもので、この分野の先進国である中国では、すでに地方政府やIT大手の実験が報道されている。
2020年には中国政府が「社会信用スコア」を本格的に開始する予定で、金融や決済に関するデータだけでなく、納税状況や交通違反、善行、SNSの投稿内容まで、社会生活のさまざまなデータを収集して分析すると見られる。このシステムの導入は中国だけでなく、他の国にも波及していく可能性がある。
このような社会生活全般のデータを使う社会的スコアをめぐっては、政府による大量監視を危惧する指摘があるものの、意外にも、金融アクセスの向上や人々のマナーや行動の改善が期待されるなどの理由で、支持する声も多い。
だが、ティロールは、『デジタル・ディストピア』の思考実験の結果から、社会的スコアに警鐘を鳴らす。
まず、人々の行動をモデル化し、様々なケースに分けて分析すると、人々の関係性は2種類に分かれる。家族や親しい友人との付き合いなど「安定した関係」と、プラットフォーム上の契約や大都市でのつきあいなど「一時的な関係」だ。
社会的スコアを共有すれば、この一時的な関係において、よくない他者との交流や取引を避けられるというメリットが考えられるが、単に他者への偏見や差別を助長する危険性もある。社会的スコアは、政治思想や性的嗜好などさまざまな情報を含むので、その情報が企業や個人にとって影響や関係がない情報であれば、社会的スコアとして世の中に開示することは害の方が大きいかもしれない。
また、社会的スコアによって犯罪や問題行動が減る可能性がある一方で、評価・格付けシステムを設計する人々の私的な利害関係や関心が社会善からずれる場合、機能しない可能性があることもわかった。社会的なイメージを高めたいという人々の欲求は一部で良い行動を増やすものの、その欲求を利用して人々の行動を操作すべく専制政府や独占企業が社会的スコアを恣意的に公開する場合、逆に社会的貢献を減らす場合があるからだ。
この場合、社会的スコアは一見社会の透明性や安全性を高めているように見えるが、実際には政治権力の強化に使われるだけの可能性がある。この政治権力は中国のような専制国家の政府だけでなく、巨大デジタル・プラットフォームを持つ私企業をも含む。
