人工知能に欠けているもの、そしてベンチマークがほとんど正式に評価せず、意味のあるペナルティを課していないもの、それは誠実性である。
他の企業が人工知能の中により多くの人工知能を組み込む競争を繰り広げている一方で、私たちの時代の真の課題は、知能よりも人工的誠実性(Artificial Integrity)に向けた競争である。
知能だけでは不十分なもの
人工的誠実性を構成する3つの次元がある。倫理的誠実性、道徳的誠実性、そして社会的誠実性である。
倫理的誠実性は、AIが何を追求すべきかを問う。これは、最適化目標と人間の繁栄、基本的権利、長期的な社会の回復力、そして短期的な効率性やエンゲージメントのインセンティブによって生み出される有害な外部性の防止との間の整合性に関わる。倫理的誠実性は、AIの目的が人間の自律性、心理的幸福、環境の持続可能性、民主主義の安定性と両立し続けることを要求する。
よく知られた例は、注目の最大化のみに最適化されたソーシャルメディアの推薦システムである。このようなシステムは、エンゲージメント指標を増加させる一方で、依存症、分極化、不安、誤情報を同時に増幅する可能性がある。このシステムは目的論的には効率的だが、倫理的には不整合である。
道徳的誠実性は、AIがどのように人間と現実を認識するかを問う。これは、人間の尊厳、還元不可能性、文脈的複雑性、脆弱性、主体性を、人を プロファイル、確率、行動スコア、予測可能なカテゴリーに変換する還元的な計算表現から保護することに関わる。道徳的誠実性は、AIシステムが抽象化の限界を認識し、人間を単に操作可能なデータ構造として扱うことを避けることを要求する。
これは、候補者を生産性指標、性格スコア、履歴書のキーワードに還元するAI採用システムに見られる。このようなシステムは、個人の軌跡、克服した逆境、道徳的性格、文脈的知性を体系的に無視する可能性がある。人は統計的対象となり、人間的主体ではなくなる。
社会的誠実性は、AIが何を知識と真実として正当化するかを問う。これは、信頼できる知識の検証、認識論的権威の分配、証拠基準の透明性、多様な視点の包摂、そして社会における信頼できる集合的理解の保全に関わる。社会的誠実性は、何が可視的で、信頼でき、社会的に受け入れられるかを決定する不透明なシステムへの情報権力の集中に抵抗することを要求する。
これは、生成AI検索アシスタントが統計的に支配的な視点を客観的真実として提示する一方で、少数派の視点、新興研究、文化的に異なる知識形態を不可視化する場合に明らかになる。時間の経過とともに、公共の理解は開かれた議論よりも、アルゴリズム的確率とプラットフォームが定義する正当性によって形成されるようになる。
知能は分析的論理だけに還元できない。なぜなら、知能自体が単一的に論理的ではないからである。それは目的論的、存在論的、認識論的な論理性構造の形態を必要とする。人工知能もそうでなければならない。
倫理的誠実性は目的論的である。倫理システムは、目的の誠実性が崩壊するときに崩壊する。効率性が目的に取って代わるとき、有用性が意味を覆すとき、行動が善への方向性を失うとき。倫理的誠実性は、個人と機関が価値ある目的を定義し、追求し、保全する条件に依存するようになる。
道徳的誠実性は存在論的である。道徳システムは、存在の誠実性が崩壊するときに崩壊する。自己の断片化、価値観と行動の不整合、真正性の侵食、内的一貫性の喪失。道徳的誠実性は、個人が自分が誰であるか、何を信じるか、どのように行動するかの間の統一を保全する条件に依存するようになる。
社会的誠実性は認識論的である。社会システムは、認識論的誠実性が崩壊するときに崩壊する。誤情報、操作、知識の非対称性、信頼の喪失。社会的誠実性は、社会が真実を生産し検証する条件に依存するようになる。
これらの三位一体の次元が人工的誠実性を形成する。そして人工的誠実性は、倫理的目的、道徳的認識、社会的正当性が内部的に欠陥があるか、相互に両立しないときに崩壊する。欠陥は、1つの次元が破損しているか欠如しているときに発生する。次元間の対立は、次元が互いに矛盾するときに発生する。
時には、名前だけで十分である
例を挙げよう。
結婚後の姓に置き換えられた旧姓。もはやデータベースと完全に一致しない身分証明書。何百万人もの女性の生活において完全に普通のままである管理上のバリエーション。
そして突然、デジタル上の存在が異常になる。
アカウントがブロックされる。資金が凍結される。終わりのない検証手続き。自動化された疑念。
それには、一見すると拒否することが逆説的に困難な名前さえある。「KYC」――「顧客を知る(Know Your Customer)」。
しかし、それを経験している女性にとって、知られている、認識されていると感じることほど遠いものはない。それどころか、女性の生きた現実を根本的に認識できない技術システムのように感じられる。
これは、PayPal(ペイパル)などのプラットフォームの検証手続きに直面した多くの女性によって報告されている経験である。
なぜなら、これらの技術システムに組み込まれた社会文化的バイアスは、より深い問題の目に見える症状に過ぎないからである。それは、依然として主に男性によって設計され、それ自体が主に男性の視点によって形成された思考モデルと前提を中心に構造化されたテクノロジー業界である。
現実世界では、結婚後に姓を変更した女性は明らかに同じ人物のままである。アルゴリズムの世界では、これはもはや必ずしも真実ではない。なぜなら、機械は教えられたことを最適化するからである。そして、女性の身分証明書を適切に解釈する能力――管理上の慣習が既婚者の姓を異なる方法で、または一貫性なく表示する可能性がある――は、機械が最適化するように設計されたものの体系的な一部ではない。
これが現代の技術的女性蔑視が生まれる方法である。無関心を通じて。誰も真剣に問うことなく世界的に展開されたシステムを通じて。「結婚後に姓を変更する女性、または離婚後に通称を保持することを選択する女性に何が起こるのか」。
さらに悪いことに、現実自体がそのパターンの不整合を露呈した後でも、女性も男性も、意識的または無意識的に機械にプログラムされたパターンに疑問を持たない。
これらの女性がカスタマーサポートに連絡すると、再び同じ壁に遭遇する可能性がある。受動的受容によって強化された壁、時には他の女性によってさえ。なぜなら、アルゴリズム的権威が批判的思考を、そして時には最も基本的な形態の常識さえも圧倒し始めているからである。
これは新しい技術秩序である。人間が、機械、ロボット、またはアルゴリズムによって検証されているように見えるときはいつでも、不整合、不条理、さらには不正義をますます擁護する可能性がある秩序である。「人間中心の技術」がスローガンとしてこれまで以上に流行しているにもかかわらず。
せいぜい、これらの失敗は「バグ」と呼ばれる。しかし、真のバグは、まずシステム自体を設計する方法にある。
このケースは特に示唆に富んでいる。なぜなら、技術的最適化がそれが奉仕すべき現実から切り離されたときに、人工的誠実性の失敗の3つの次元すべてを同時に示しているからである。
さらに重要なことに、それは倫理的目的、道徳的認識、社会的正当性の間の次元間対立も明らかにする。
それは機械だけの失敗ではなく、計算的一貫性を人間の真実と混同することがますます増えている、より広範な技術的論理の失敗である。
このシステムは主に、詐欺防止、手続き的一貫性、拡張性、自動化されたコンプライアンス、運用効率を最適化するように設計されている。これらの目的のいずれも、それ自体は不当ではない。
一貫性は現実を説明しない
すべての大規模な金融またはデジタルプラットフォームは、数百万のインタラクションにわたって確実に動作できる検証形態を必要とする。
倫理的誠実性の観点から、問題はシステムが機能しないことではない。それどころか、それは驚くべき手続き的一貫性で機能する。問題は、その最適化の優先順位が、その動作の完全な人間的結果を説明するには狭すぎることである。システムは手続き的一貫性とコンプライアンス効率を成功裏に最適化する一方で、心理的苦痛、尊厳のコスト、不均衡な負担を、保護すると主張するまさにその個人に外部化する。したがって、倫理的失敗は機能不全から生じるのではなく、システムが最適化するものと人間の幸福が実際に必要とするものとの間の比例性の欠如から生じる。
道徳的誠実性の観点から、失敗はさらに根本的になる。なぜなら、システムは計算的抽象化自体の限界を明らかにするからである。問題はもはや単に機械が何をするかではなく、機械がどのように現実を表現するかである。人間のアイデンティティは、時間とともに進化できる継続的な社会的および生きた現実としてではなく、安定した管理上の対応として扱われる。文脈的人間性は、機械可読な一貫性によって形成された手続き的可読性の背後に消える。その瞬間、人はワークフロー自体の誠実性に対して二次的になるリスクがある。
社会的誠実性の観点から、このケースは、アルゴリズムシステムが社会内部の正当性の分配をどのようにますます形成しているかを露呈する。問題は、アルゴリズム的検証が人間の解釈、制度的認識、さらには常識よりも大きな権威を徐々に獲得していることである。情報的正当性は、社会的理解から不透明な計算手続きへとゆっくりと移行する。これが起こると、人間自身が機械の出力を自分自身の判断よりも本質的により信頼できるものとして内面化し始める可能性がある。
その結果は、技術的依存だけでなく、認識論的依存である。それは、社会が計算的可読性の制約を中心に自らを再編成するリスクを冒す、より広範な文明的シフトである。より深い危険は、単に機械が人間を誤解したり、時折間違いを犯したりすることではない。人間のシステムは常にエラーを含んできた。より深い危険は、社会が機械が容易に処理できるものに徐々に自らを適応させ始めることである。機械の表現上の限界に自らのアイデンティティ、行動、社会的現実を適応させる。
これが起こると、複雑性は標準化に抵抗するため望ましくなくなる。曖昧性は計算的確実性を混乱させるため疑わしくなる。文脈的人間性は機械可読な一貫性に容易に翻訳できないため、運用上の摩擦になる。人間自身が、技術システムが人間の生活の現実と人間の表現の限界を中心に設計されるのではなく、アルゴリズム的に計算可能なものの限界に適合するよう徐々に圧力をかけられる。これが人工的誠実性の崩壊の陰湿な影響の1つである。
システムは倫理的にはセキュリティと信頼を創出すると主張する一方で、道徳的にはアイデンティティの連続性を不安定化し、社会的には人間の判断を手続き的権威に置き換える。個人は同時に、システムが彼女を保護するために存在すると告げられる一方で、検証すると主張する生きた現実を理解できない機械に対して繰り返し自分のアイデンティティを正当化することを強制される。言い換えれば、システムは目的論的に一貫し、存在論的に還元的で、認識論的に支配的になる。
これが、このようなシステムによって生成される経験が、それに服従する人々にとって非常に深く不合理に感じられる理由である。矛盾は単一の技術的機能内に位置していない。それは最適化、表現、正当性自体の関係に埋め込まれている。
人工知能は、それを構築する人々の世界観に埋め込まれた価値観、省略、盲点、そして時には特権を反映する。それは単なる言語モデルではない。それはすでに世界のモデルである。そして真の問題は次のようになる。それは誰から世界の見方を学ぶのか。
画像クレジット: クリエイティブなイラストを提供してくれたSabrina Gabrielliに感謝します。www.mynameisbri.com、Instagram: @bribbry
