11月に控える次の米国の中間選挙に向け、世界はその行方をめぐって大きな議論を交わしている。要因は多いが、そのうちの1つはまったく新しいものだ。AIが有権者へ情報を流し込み、これまでにない形で人々に影響を与え得るという能力である。
「テック企業は近年、AIから選挙を守るための重要な措置を講じてきたが、民主主義を守るにはさらなる対応が必要だ」と、ブレナン司法センターのメケラ・パンディタラトネは書いている。
要するに、これらの技術が持つ剥き出しの力は、誤情報や歪曲、あるいはクリーンな投票に影響し得る別種の現象を仕掛けるための攻撃ベクトルを、はるかに増やす可能性がある。とりわけこの規模の国において、そして米国の遺産としての特有の歴史を抱える国においてはなおさらである。
ボストンからの言葉
最近、MITでAIと民主主義という具体的な論点を議論するためのパネルが開かれた。モデレーターを務めたソンイー・ユンは、ベイリー・フラニガン、チャールズ・スチュワート、リリー・ツァイに関連テーマと、選挙の健全性の見通しについて質問した。
フラニガンは、AIの影響の範囲を評価する難しさを指摘した。
「こうした技術が何をしていて、いかに公衆に介入しているのかを、俯瞰して把握するのは本当に難しい。これは規制の前提となる環境そのものを変えてしまい、監査（オーディット）のために新たなツールが必要になる。だが、そのツールはまさに今開発されている最中で、私たちは本当に、備えができていなかったと思う」と彼女は述べ、規制に向けた社会的合意の必要性を示唆した。
スチュワートは、政府が技術変化の速度に必ずしも追随できないという点についても考えを付け加えた。
「ある意味で、これは電信から電話、ラジオとテレビ、やがてソーシャルメディアへと移っていく古い物語だ」と彼は述べた。「そのたびに、私たちは過去のコミュニケーションを攪乱してきた。だが重要なのは、米国では政府の形が実質的に変わっていないことだ。制度が適応するのは難しい」
それは人々にとっても難しいのだと、彼は付け加えた。
「チャットボットの体験は、実際に1対1の小さな会話に参加しているのだと信じ込ませることがある」と彼は言う。「それはおそらく、ある程度まで圧倒的に説得力を持ち得る。たぶん、そうあるべきではないのだが」
国ごとに異なる道筋
「米国は、おそらく民主主義世界の多くとは異なる道をたどるだろう」とスチュワートは述べた。「私たちは言論の自由をかなり原理主義的に捉えており、それがあらゆる政治的相互作用を規制する能力に影響している」
一方で、彼は、民主主義のあり方がより進化してきた地域もあると指摘する。
「西欧の大半や、強固な選挙制度を持つ世界の他の地域に行けば、政治的発言がいつ許されるのか、政治的発言の性質、誤解を招く政治的発言を制裁する能力などについて、はるかに強い規制がある」と彼は言う。「米国にはそれがない」
ツァイは、AIは社会のさまざまな変化によって生じる規範の侵食において、1つの要因になっていると指摘した。
「こうした規範やコミットメントとは、例えば相互尊重へのコミットメントであり、民主主義の参加者が事実について自ら情報を得る責任を持ち、他者と協力して事実の共有理解を築くことを求める」と彼女は言う。「もちろん、それはまずソーシャルメディアによって侵食されてきた。だがAIは、私たちが目にしているいくつかの問題を増幅する、もう1つの装置にすぎない」
ツァイはまた、人々は民主主義の仕事をAIに丸投げするのではなく、自ら担う必要があるとも述べた。
「民主主義は、簡単であるように設計されてはいない」と彼女は言う。「難しいように設計されている。ボットに民主主義の市民としての仕事の一部を奪わせることの問題の1つは、私たちが能動的な市民性ではなく受動的な姿勢へと傾き、主体性と自律性を、もしかすると少しずつ手放してしまうことだ」
民主主義の仕事の新しい方法
関連する指摘としてフラニガンは、人々の影響力に関するパラダイムも、時代に追いついていない可能性があると述べた。
「彼らはそれを、非常に結果主義的なやり方で捉えている。目的は、静的で固定され、すでに存在している『信念』を皆から引き出して、何らかの意思決定につなげることだけで、民主主義のプロセス全体を飛ばしてしまう」と彼女は言う。「効率的で簡単だから、これは良いことだと思える理由はある。だが、それは失うものがある」
スチュワートも同意しているようだった。
「政治を正解と不正解に還元することは、普通の人々が実際に政治的にどう関わるのかという理解を誤らせる」と彼は述べた。
政治のための設計原則
議論の終盤、ツァイは再び、選挙実務のみならず政治の世界で私たちを導き得る、明確な原則を定めるという考えを持ち出した。
「本当に重要だ」と彼女は言う。「設計原則という意味だけではない。民主主義の基盤となる価値と原則、すなわち主体性、政治的平等、相互尊重、包摂、自律性に設計者が精通しているというコミットメントも重要なのだ」
スチュワートは、社会において保護のためのルールや指針はどこから生まれるべきか、そしていま私たち全員が目撃していることについて語った。
「私たちは戦争で、人を自律的に殺すべきなのか」と彼は言う。「それは道徳判断だ。民主主義においては、選挙で選ばれた代表者に検討してもらうべきだ。議会や、こうした熟議の機関があるのはそのためだ。だが現実には、それが調達プロセスに吸い込まれてしまう」
彼はソーシャルメディアについて、こう述べた。
「ソーシャルメディアを公益に向けて規制するのが難しいことは感じてきた。もしかすると私たちは、ソーシャルメディアの事例から学びつつあるのかもしれない」
フラニガンは、社会が変化していくプロセスについて別の角度から踏み込んだ。
「テクノロジーは、信じられないほど分散的な形で公衆に影響している。それによって公衆そのものの性質が変わっていく。これは私たちが暗黙のうちに、ある種同意してきたことだ」と彼女は言う。「個人がこの技術を受け入れるにせよ、抵抗しようとするにせよ、それはとても難しいダンスになる。皆が受け入れて自分だけが受け入れなければ、取り残されるかもしれないからだ」
そしてアクセスの問題がある。
「米国人の相当な割合は、ブロードバンド（高速インターネット）にアクセスできない。ましてAIは言うまでもない」とツァイは指摘した。「デジタルデバイドという古い問いは、いまも存在している」
ライトニングラウンド
最後にユンは、AIの世界についていま最も懸念していることは何かを、各パネリストに尋ねた。
ツァイは、AIによる要約がアジェンダを設定し得る力を持つことについて語った。便利だと思えるかもしれないが、落とし穴もあるという。
「典型的なアプローチは、人間のユーザーにAIをより代表性のあるものにする手助けをさせ、それに合わせてAIを調整（アライン）することだと思う」と彼女は言う。「だがそれは、代表性や民主主義理論について私たちが考えてきた従来の理論的な捉え方と、実は相反する」
スチュワートは、選挙結果が争われる状況にまつわる懸念すべきシナリオを挙げた。
「選挙が疑問視されれば暴力につながり得る。そして私たちは、ローテクの時代でさえ選挙結果が操作されるのをすでに見てきた」と彼は言う。「私が心配しているのは、今回の投票日とその翌週の水曜日に自分が目にすることだ。もしAIが選挙制度に不可逆な攪乱を生み出す手助けをしていたなら、それが私の懸念だ」
フラニガンは、利害関係者のコミットメントが一様ではない点を挙げた。
「AnthropicやOpenAIで見たような『底辺への競争』のダイナミクスが起きる。たった1社が、利益になるからという理由で『イエス』と言えば、それで標準が決まり、規範が決まる。そしてそれがどんどん速くなっている」とフラニガンは述べた。
このパネルは、人間の心理が、私たちがいま人として直面するテクノロジーとどのように符合するのかを、説得力ある形で示した。私たちはロボティクスという形でAIを具現化し、公衆を驚嘆させるモデルは進化を続けている。これらが社会のプロセスにいかなる影響を及ぼしているのか、注視し続けたい。
