マリアのローン申請は、わずか37秒で却下された。彼女の収入、無欠の支払い履歴、そしてゼロから築き上げた小さなビジネスを、人間が審査することはなかった。アルゴリズムが彼女の郵便番号をスキャンし、リスクスコアを計算し、彼女がコーヒーを飲み終える前に判断を下したのだ。一方、大西洋を越えたガーナの農村部では、12歳のクワメが3マイル歩いて学校に通っている。そこでは古い教科書がほこりをかぶる一方、AIチューターはスマートフォンとデータ通信料を支払える余裕のある子どもたちの教育に革命をもたらしている。
これは二都物語ではない。これは私たちの分断されたデジタル世界の物語であり、人工知能が静かに機会の裁定者、アクセスの守護者、そして次第に人間の価値の定義者となっている世界の物語だ。技術的な驚異として始まったものが、はるかに重大なものへと進化した：私たちの即座の注目を要求する人権問題へと。
過剰と不足が交錯する世界
広大なデジタルビュッフェに立つ人類を想像してみよう。一方の端では、人々がアルゴリズムによる推奨に飽食し、自分自身よりも彼らの好みをよく知る機械によって事前に消化された選択肢を享受している。もう一方の端では、何十億もの人々が外に立ち、ガラス越しに鼻を押し付け、機会が通り過ぎるのを見ている。アメリカ人の3人に1人は現代のAIアプリケーションに十分なインターネット速度を持たず、アフリカ諸国の人々の5人に3人はインターネットにまったくアクセスできない。
これが権利のパラドックスを生み出している。同じテクノロジーが一部の人々を解放する一方で、他の人々を束縛している。AIの王国から締め出された人々は、アルゴリズム的なアパルトヘイトに直面し、デジタルリテラシーを必要とする仕事、学習スタイルに適応する教育プラットフォーム、そして貧困から抜け出すための金融サービスから切り離されている。しかし、入場を許された人々は、しばしば自分たちが便利さと引き換えに自律性を、パーソナライゼーションと引き換えにプライバシーを、アルゴリズムによる支援と引き換えに主体性を取引したことに気づく。
現代の求職者を考えてみよう。AIを活用した履歴書最適化ツール、キャリアコーチングチャットボット、面接準備プラットフォームにアクセスできなければ、本質的には銃撃戦に投石器を持って現れるようなものだ。しかし、これらのツールにアクセスできれば、あなたのクリック、キーストローク、一時停止のすべてが収集され、分析され、「理想的な」候補者のアルゴリズム的定義に合わない候補者を除外するシステムに供給される。
デジタルジレンマのABCD
AIが人間の尊厳にどれほど深く影響しているかを理解するには、社会を再形成している4つの相互に関連した危機を検討する必要がある。これらをアルゴリズム時代のABCDと考えよう。
主体性の衰退（Agency decay）は、おそらく人権に対する最も陰湿な脅威だ。私たちは人間の判断を機械に外注する緩慢な動きを目撃している。GPSは私たちを方向感覚のない存在にした。レコメンデーションエンジンは私たちの文化を選別する。予測テキストは私たちの思考を形作る。それぞれの譲歩は些細なものに感じられる。完全に良い文章を自動修正に「修正」させたことがない人がいるだろうか？しかし、集合的にはそれらはより厄介なものを表している：私たちを明確に人間たらしめているものの徐々の侵食だ。
Googleマップなしで道を見つけようとする10代の若者の苦闘を見れば、リアルタイムで主体性の衰退を目の当たりにしている。人間の進化の数千年にわたって磨かれてきた脳の空間的推論センターが、使用されないことで萎縮している。これを人間の経験のあらゆる領域に拡大してみよう。私たちは、デジタルな松葉杖に次第に依存し、祖先が容易に歩いた認知的距離を歩けなくなる種を作り出している。
絆の侵食（Bond erosion）は人間のつながりの核心を打ち砕く。AIは私たちの関係を仲介するだけでなく、それらに取って代わり始めている。チャットボットは孤独な人々を慰め、AIの伴侶はプログラムされた無条件の愛を提供し、決して失望させない。介護施設の高齢者は、スケジュール通りに喉を鳴らすが、真の愛情を返すことのないロボットペットに愛着を形成する。
最も残酷な皮肉？これらの人工的な絆はしばしば本物の絆よりも安全に感じられる。彼らは判断せず、去らず、悪い日を持たない。しかし、彼らはまた私たちに挑戦せず、驚かせず、本物の人間のつながりがもたらす混沌とした、壮大な方法で成長するのを助けない。私たちは、本物の関係が絶滅危惧種になる世界を作り出すリスクを冒している。
気候のジレンマ（Climate conundrum）は、ほとんどのAIの議論が便宜上無視している環境正義の側面を加える。単一の大規模言語モデルのトレーニングは、何百ものアメリカの家庭が1年間に使用する電力と同じくらいの電力を消費する。AIを支えるクラウドインフラは、デジタル恐竜のようにエネルギーと水を飲み込む巨大なデータセンターで動いている。一方、AIチップ用のコバルトはコンゴの鉱山から来ており、そこでは子どもたちが私たちのアルゴリズム的未来の原材料を求めて瓦礫の中を掘っている。
気候変動は最も貧しい人々に最も厳しい影響を与える。まさにAIの恩恵から除外されている人々だ。つまり、AIから何も得られない人々に、その環境コストを負担するよう求めているのだ。これはイノベーションという装いをした世代間および国際的な窃盗の一形態だ。
最後に、AIがあらゆる既存の断層線を増幅させるにつれて、ますます分断された社会（Divided society）が出現する。最も疎外されたコミュニティ、女性、有色人種、障害者、LGBTQ+の人々は、AIの差別的影響の矢面に立たされる一方で、その約束から最も少ない恩恵を受ける。顔認識システムは暗い肌色の識別に苦労する。音声アシスタントはアクセントのある英語を誤解する。採用アルゴリズムは伝統的に白人男性らしい名前を好む。
これは偶発的なバイアスではない。デジタルマスクを被った構造的抑圧だ。AIはWEIRD（白人、教育を受けた、産業化された、裕福な、発展した）人口統計によって特徴づけられる。しかし、AIシステムを構築する人々が圧倒的に特権的な背景から来る場合、システムは必然的に彼らの盲点とバイアスを反映する。その結果、歴史的差別を古風に見せるアルゴリズム的レッドライニングが生じる。
アルゴリズム時代の人権
伝統的な人権の枠組みは、AIの形を変える性質に直面すると崩壊する。AIがあなたの買い物習慣から性的指向を、タイピングパターンから精神状態を、異なる記事を読む時間からあなたの政治的信念を推測できるとき、プライバシーの権利をどのように主張できるだろうか？
非差別の権利は、アルゴリズムが代理変数と統計的相関関係を通じて同じ差別的結果を達成できるとき、無意味になる。AIシステムは人種を明示的に考慮することはないかもしれないが、人種的アイデンティティと相関する郵便番号、通った学校、あるいは言語パターンを重視することで、同じ偏った結果を達成できる。
最も厄介なのは、人間の主体性自体への攻撃だ。AIシステムは、偏ったアルゴリズムと不公平なシステムを通じて、人間の能力を損ない、不平等を強化する可能性がある。アルゴリズムが私たち自身よりも私たちをよく知り、不気味な正確さで私たちの行動を予測するとき、私たちはまだ自由意志を持っているのだろうか（そもそも自由意志が存在したと仮定して）、それとも単なる選択の幻想を持っているだけなのだろうか？
反撃：活性化と緩和
人権危機としてのAIに立ち向かうには、二本立ての戦略が必要だ。活性化とは、誰もがAIの恩恵にアクセスできるようにすることを意味する。緩和とは、誰もがその害から保護されることを意味する。
活性化は、より多くの携帯電話の塔を建設したり、ラップトップを配布したりするだけではない。デジタルインクルージョンを中心に社会をどのように構築するかを再考する必要がある。フィンランドはインターネットアクセスを基本的権利として扱っている。国連は、すべての国がコンピューティングパワーとAIツールに公平にアクセスできるよう、共有グローバル施設の設立を提案している。これらの動きは、AIへのアクセスが清潔な水や基本的な医療と同じくらい不可欠になりつつあるという実用的な認識を示している。接続されている人々と同期していない人々の間の広がるギャップを埋めるには、迅速により多くのことが必要だ。
理解なしのアクセスは、別の形の搾取に過ぎない。公衆衛生教育と同じくらい包括的なAIリテラシーキャンペーンが必要だ。人々は、AIツールの使い方だけでなく、それらのツールが彼らをどのように使用するかも理解する必要がある。それには、自己と社会の全体的な理解であるヒューマンリテラシーと、AIの何、なぜ、どのようにを理解するアルゴリズムリテラシーを組み合わせたダブルリテラシーが必要だ。
緩和には、憲法上の権利が政府の権力を制約するのと同様に、AIの力を制約する拘束力のある原則である一種のアルゴリズム的立憲主義が必要だ。これは、ハイステークスなAIシステムの義務的監査、根本的な透明性要件、そして人々にデジタルライフに対する実質的なコントロールを与える有意義な同意メカニズムを意味する。しかし、投票権と同様に、参加は情報と選択する主体性に基づいている場合にのみ意味がある。
システムとして考え、市民として行動する
AI権利の課題は政治的であり、人権に対するAIの影響は本質的にグローバルであり、データパケットと同じくらい容易に国境を超える。シリコンバレーでのアルゴリズムのトレーニングがクアラルンプールの就職機会に影響を与えたり、ある国で開発された顔認識システムが世界中で展開されたりするとき、伝統的なガバナンス構造は不十分であることが証明される。
これは新しい形の国際協力を要求する。アルゴリズム時代のための世界人権宣言を構想する時が来た。アメリカのテック巨人、中国の監視システム、あるいはヨーロッパの規制枠組みのいずれを扱う場合でも適用される基準だ。
ハイブリッドゲームにおける私たちの動き
AI権利の未来は、企業の取締役会や政府委員会だけで決定されるわけではない。しかし、最終的には何百万もの個人の選択が時間とともに積み重なることで形作られる。抵抗に参加する方法は次のとおりだ：
認識 – デジタル探偵になる。日常生活におけるAIの指紋に気づき始めよう。ソーシャルメディアのフィードが奇妙に均一に感じるとき、検索結果が便利すぎるように思えるとき、既存の信念をすべて確認するコンテンツに同意していることに気づくとき、それはAIが働いている。透明性を要求しよう。ほとんどの企業は、あなたが尋ねれば、アルゴリズムによる意思決定を開示することが法的に義務付けられている。
感謝 – 認知的反抗を実践する。アルゴリズムが予測しない選択を意識的に行うことで、主体性の衰退に立ち向かおう。自由に選択する力を楽しもう。GPSが推奨しない経路を取ろう。いつもとは違るジャンルの本を読もう。あなたの世界観に挑戦するアイデアに取り組もう。認知的な筋肉を強く保つためのメンタルクロストレーニングと考えよう。
受容 – データで投票する。あなたの選択には結果があることを認め、利益よりも人権を優先する企業をサポートしよう。あなたを追跡しない検索エンジンを使おう。会話を読むことができないメッセージングアプリを選ぼう。「無料」の製品とプライバシーを交換する代わりに、サービスに対価を支払おう。
説明責任 – 政治的に活動的になる。AI規制について代表者に連絡しよう。テクノロジーが中立ではないことを理解しているリーダーに投票しよう。AIポリシーに関する公開協議に参加しよう。あなたの生活を支配するアルゴリズムは、最終的にはあなたが選出した政治家によって支配されている。
AIと人権の物語はまだ書かれている途中だ。それが解放の物語になるか、抑圧の物語になるかは、今日私たちが下す選択にかかっている。アルゴリズムは見て、学び、適応している。問題は：私たちはどうだろうか？
