今回のコラムでは、韓国が新たに制定したAI法について検証する。この法律は2026年1月22日に施行され、一般に「AI基本法」と呼ばれている。
正式名称は「人工知能の発展及び信頼性基盤の確立に関する基本法」(英語訳に相当)である。この長い名称は、AI法が意図する内容を比較的的確に表現している。驚くべきことに、これは単一の主要国が国家全体の規制枠組みとして採用した初の包括的AI法である。これは注目すべきマイルストーンだ。
AI基本法は、いくつかの点でEU AI法と類似しているが、他の点では大きく異なる。規制の焦点の多くは、AI安全性の統治、特に生成AIと大規模言語モデル(LLM)の出現への対処に関連している。ディープフェイクやAIを使った誤情報拡散に関する条項がある。また、AIとメンタルヘルスに関する条項もあるが、メンタルヘルスに関する範囲は、米国の州レベルの法律(イリノイ州、ネバダ州、ユタ州など)がAIのメンタルヘルスへの影響を具体的に対象としているのと比較すると、控えめまたは希薄である。
筆者の重点は、韓国のAI基本法の主要な輪郭を広く特定し、さらに関連するメンタルヘルス条項に焦点を当てることである。
それでは話を進めよう。
このAIの画期的進展に関する分析は、最新のAIに関する筆者の継続的なForbesコラムの一部であり、様々な影響力のあるAIの複雑性を特定し説明している(リンクはこちら)。
AIとメンタルヘルス
簡単な背景として、筆者は現代のAIがメンタルヘルスのアドバイスを提供し、AI駆動のセラピーを実行することに関する無数の側面を広範囲にわたって取り上げ、分析してきた。このAIの利用の増加は、主に生成AIの進化する進歩と広範な採用によって促進されてきた。筆者の100を超える分析と投稿の広範なリストについては、こちらのリンクとこちらのリンクを参照されたい。
これが急速に発展している分野であり、得られる莫大な利点がある一方で、残念ながら、隠れたリスクや明白な落とし穴もこれらの取り組みに伴うことは疑いの余地がない。筆者はこれらの差し迫った問題について頻繁に発言しており、CBSの「60ミニッツ」のエピソードへの出演も含まれる。リンクはこちらを参照されたい。
メンタルヘルスのためのAIに関する背景
生成AIと大規模言語モデル(LLM)が、メンタルヘルスのガイダンスのためにアドホックな方法で典型的にどのように使用されているかについて、舞台を設定したい。何百万人もの人々が、メンタルヘルスに関する考慮事項について継続的なアドバイザーとして生成AIを使用している(ChatGPTだけでも週間アクティブユーザーが9億人を超えており、その注目すべき割合がメンタルヘルスの側面に関与している。筆者の分析はこちらのリンクを参照)。現代の生成AIとLLMの最上位の使用法は、メンタルヘルスの側面についてAIに相談することである。筆者の報道はこちらのリンクを参照されたい。
この人気のある使用法は十分に理解できる。主要な生成AIシステムのほとんどに、ほぼ無料または超低コストで、いつでもどこでもアクセスできる。したがって、話し合いたいメンタルヘルスの懸念がある場合、必要なのはAIにログインして24時間365日ベースで進めることだけである。
AIが容易に軌道を外れたり、不適切な、あるいは極めて不適切なメンタルヘルスのアドバイスを提供したりする可能性があるという重大な懸念がある。今年8月の見出しには、認知的助言を提供する際のAI安全対策の欠如についてOpenAIに対して提起された訴訟が伴った。
AI製造者がAI安全対策を徐々に導入していると主張しているにもかかわらず、AIが自傷行為につながる妄想の共創を陰湿に支援するなど、望ましくない行為を行う下振れリスクがまだ多く存在する。OpenAI訴訟の詳細と、AIが人間の妄想的思考をどのように助長するかについての筆者のフォローアップ分析については、こちらのリンクの分析を参照されたい。前述のように、筆者は、最終的にすべての主要なAI製造者が、堅牢なAI安全対策の不足について厳しく追及されるだろうと真剣に予測してきた。
ChatGPT、Claude、Gemini、Grokなどの今日の汎用LLMは、人間のセラピストの堅牢な能力とは全く似ていない。一方、同様の資質を達成すると推定される専門的なLLMが構築されているが、それらはまだ主に開発とテストの段階にある。筆者の報道はこちらのリンクを参照されたい。
現在の法的状況
一部の州は、メンタルヘルスのガイダンスを提供するAIを統治する新しい法律を制定することをすでに選択している。イリノイ州のAIメンタルヘルス法に関する筆者の分析についてはこちらのリンク、ユタ州の法律についてはこちらのリンク、ネバダ州の法律についてはこちらのリンクを参照されたい。これらの新しい法律を試す裁判事例が出てくるだろう。法律がそのまま存続し、AI製造者によって繰り広げられる法的闘争を乗り越えるかどうかを知るには時期尚早である。
米国議会は、メンタルヘルスのアドバイスを提供するAIを包含する包括的な連邦法を確立することに繰り返し取り組んできた。しかし、これまでのところ成果はない。努力は最終的に視界から消えてきた。したがって、現時点では、これらの物議を醸すAI問題に特化した連邦法は存在しない。筆者は、AIとメンタルヘルスに関する包括的な法律が含むべき、または少なくとも十分に考慮すべき概要を示してきた。筆者の分析はこちらのリンクとこちらのリンクを参照されたい。
現在の状況は、AIとメンタルヘルスに関する新しい法律を制定した州はほんの一握りであり、ほとんどの州はまだ制定していないということである。これらの州の多くは制定を検討している。さらに、子供のAI使用時の安全性、AIコンパニオンシップの側面、AIによる極端な追従など、必ずしもメンタルヘルス法とは見なされていないが、確実にメンタルヘルスに関連する州法が制定されている。一方、議会もこの領域に進出しており、これはあらゆる種類の用途のAIを対象とするはるかに大きな目標となるが、形成段階に達したものはない。
これが現在の状況である。
韓国がAI基本法を制定
米国外の国々がAI法をどのように考案しているかを探ることは非常に有用である。一部の要素は米国の法律を作成する際に有用かもしれないが、他の要素は断固として不適切かもしれない。筆者は以前、中国の法律(こちらのリンクを参照)、欧州連合AI法、国際的なAIガバナンスを扱う国連の勧告など、幅広い国内および国際的なAI法を分析してきた。
筆者はこの分析のために、韓国のAI基本法の英語訳を使用する。
まず、AI基本法の包括的な明示された目的は以下の通りである。
- 「本法は、AIの健全な発展を支援し、AI社会における信頼性の基盤を確立するために必要な基本的事項を規定することにより、大韓民国における人工知能(AI)の新しい枠組みを確立し、それによって国民の権利と利益及びその尊厳を保護し、国民の生活の質の向上に貢献し、国家競争力を強化することを目的とする。」
この表示は他のAI法のセットと同等であり、すなわち、通常の明示された目的は、AIが行うこと、または行わせることに関して人類を保護することである。AI分野での表現は、現代のAIの目標は人間中心のAIを考案することであるべきだというものである。要点は、AIは人間を弱体化させるのではなく、人間の価値観と整合し、人類を支援すべきだということである。
ほとんどの国家AI規制に関連する主権の考慮事項がある。例えば、この場合、明示された目的は、AIが韓国の国家競争力を強化すべきであると述べている。全体像は以下の通りである。多くの人々は、世界がどの国または国々が真に高度なAIを達成し、それに応じて他を上回るかを見るための大規模なAI競争の最中にあると信じている。AI競争と対応する主権への影響に関する筆者の詳細な評価については、こちらのリンク、こちらのリンク、こちらのリンクを参照されたい。
維持期間、監督、AI階層化
AI基本法は、法律を監督し、問題の解決を支援する特別な国家AI委員会を設立する。
- 「AI産業の振興と信頼性基盤の確立に関する主要政策に関する事項を審議し解決するため、大統領の下に国家AI委員会を設置するものとし、国家AI委員会は、AI基本計画の策定、AIの活用の促進、高影響AIの規制、その他関連事項に関する事項を審議し解決するものとする。」
一部のAI法は、法律の解釈と更新を支援する手段またはメカニズムを事前に定義することを選択する。AIは急速に変化しているため、これは理にかなっているように思われる。一方、静的な法律はしばしば急速に時代遅れになる。そのような手段またはメカニズムを特定し利用することの欠点は、法律が不確実な目標になる可能性があることである。法律を注視する人々は、変更が行われる可能性があり、したがって突然コンプライアンスを満たさなくなることを警戒するかもしれない。これはトレードオフである。
3年ごとに、法律を見直し更新する努力が行われる。
- 「科学技術情報通信部長官は、AI技術とAI産業を促進し、国家競争力を強化するため、3年ごとにAI基本計画を策定し実施するものとし、同計画は国家AI委員会によって審議され解決され、AI政策の基本方向、専門人材の育成、信頼性基盤の確立に関する事項を含むものとする。」
EU AI法といくつかの点で類似しており、AI影響レベルを区別し、したがって新しいAI法が特定のケースで何に適用されるかを階層化する試みがある。
- 「本法は、AI透明性を確保する義務とAI安全性を確保する義務を規定し、生命、身体の安全、基本的権利に重大な影響を与える可能性がある、またはリスクをもたらす可能性がある高影響AIに関連する事業者の義務を定める。」
このAI法のセットでは、「高影響AI」の区別のみがあり、低、中、高などの追加の区分はない。高レベルのみを持つことは不十分であり、実際には中レベルであるAIを、そこに属すべきでない高カテゴリに押し込むことを強いると主張する人もいる。または、高影響内にあるべき中レベルのAIが滑り出て高レベルの制限を回避することに成功する。AI法を考案する際にAIレベルを定義することは困難な選択であり、管轄区域と地理によってかなり異なる。
また、AI基本法における高影響AIを構成するものの定義は非常に複雑であり、高影響AIの範囲内にあると主張される特定の事例に関しては、幅広い法的議論を許す可能性が高いことに注意されたい。これは法的にルーズな難問になるだろう。
新法による法的義務
AI基本法は4つの主要な法的義務を定めている。
- (1)「AI技術とAI産業は、安全性と信頼性を高める方向で発展し、それによって国民の生活の質を向上させるものとする。」
- (2)「影響を受ける者は、技術的かつ合理的に可能な範囲で、AIの最終結果を導き出すために使用される主要な基準と原則に関する明確で意味のある説明を受ける権利を有するものとする。」
- (3)「国及び地方自治体は、AI事業者の創造的自律性を尊重し、AIの使用のための安全な環境を育成するよう努めるものとする。」
- (4)「国及び地方自治体は、AI事業者の創造的自律性を尊重し、AIの使用のための安全な環境を育成するよう努めるものとする。」
新法の残りの部分はやや長く、以下を含むがこれらに限定されない幅広い条項がある。
- AI基本計画の策定
- 国家AI委員会の設立
- AI政策センターの設立
- AI安全研究所の設立
- 様々なAIプロジェクトに関する研究開発への政府支援
- AI標準の確立への政府支援
- AI「学習データ」のポリシーの確立
- 企業及び公共機関におけるAIの導入と拡大の促進
- 中小企業の参加促進
- AIスタートアップの促進
- AI産業と他の産業との間のAI融合の促進
- AIに関する国際協力への政府支援
- AI研究開発のためのAIクラスターの確立支援
- AIのデモ、テスト、検証、認証を支援するためのAI「実証インフラ」の確立と運用
- AIデータセンターのポリシーの促進
- 韓国AI振興協会の設立
- AI倫理原則の確立と公表
- 刑事罰
- 行政罰金
- その他
内部番号付けにより、43の示された条項と、追加の3つの条項を含む付録がある。付録は、AI基本法がアクティブステータスになる時期に関する重要な表示を提供する。「本法は、公布の日から1年後に施行される。ただし、デジタル医療機器に関する第2条(4)(d)の規定は、2026年1月24日に施行される。」
全体的なゲシュタルト
AI基本法は、いわゆる良いニュースと悪いニュースの両方を含む事柄である。
良いニュース側では、おそらくキッチンシンクを含むほぼすべてが含まれている。AI法のセットをまとめようとして、長い洗濯物リストを考え出したい場合、AI基本法には、おそらく考えるであろうことの多くが含まれている。悪いニュースは、それがすべてかなり広く述べられており、具体的な詳細が欠けていることである。
法律が非特定的である場合はいつでも、確実にトラブルを求めている。見る者の目が、何が範囲内で何が範囲外かを決定する。AIを考案し展開する人々は、一般化された主張の範囲内にあるのか、それを超えているのかを推測するゲームに陥る可能性がある。筆者は以前、高影響の意味がすでに曖昧な側面であり、当惑させる泥沼であることを指摘した。
AI基本法の違反を構成する可能性があるものの別の例は、生成AIからの出力がAI製造者によって適切にラベル付けされているかどうかであり、これは第31条「AI透明性を確保する義務」の下にあり、条項#2で次のように規定されている。
- 「生成AIまたは生成AIを利用した製品またはサービスを提供する場合、AI事業者は、出力が生成AIによって生成されたものであることをユーザーに明確に示すものとする。」
AI製造者にAI出力がAIによって生成されたものとしてラベル付けされることを確実にさせることは、コンテンツがオンラインのどこかに投稿された場合、それがAIから来たことを人々が知ることができるため、価値ある提案と見なされている。しかし、これはラベルが簡単に剥がされるため問題がある。また、この条項に準拠するためにラベルは正確に何を言わなければならないのか。ラベルは「AIによって作成」と言うことができるのか、あるいは「AIMT」(AI Made This)のようなトリッキーな頭字語を使用できるのか。
この条項はこの点について不明確である。
さらに、AI製造者によって作られた1つの生成AIからの1つのAI出力だけがラベルを含まない場合、行政罰金に関する第43条が発動するのか。
第43条によると、「次の各号のいずれかに該当する者には、3000万ウォン以下の行政罰金が課される。」AI製造者は、1つの事例に対して最大3000万ウォン(現在約2万1000ドル)の罰金を科される可能性がある。それを数百万人のユーザー、数百または数千の出力の規模で掛け合わせると、突然非常に驚異的な罰則が発生する。
それは単に不明確で、広く解釈の余地がある。
AIとメンタルヘルスの条項
筆者は、AIメンタルヘルス条項が同様に希薄で曖昧であることを示すことに悲しくも失望している。
例えば、AI倫理原則に関する第27条では、冒頭の条項は、政府がAI倫理原則を確立し公表する可能性があり、もしそうであれば、以下の側面を含むと述べている。
- (1)「AIの開発と活用が人間の生命、身体的健康、またはメンタルヘルスに害を及ぼさないことを確実にするためのAIの安全性と信頼性に関する事項。」
- (2)「すべての人々がAI技術を搭載した製品とサービスを自由かつ便利に使用できることを確実にするためのアクセシビリティに関する事項。」
- (3)「人間の幸福と繁栄に貢献するAIの開発と活用に関する事項。」
最初の要素は、AIが人間の生命、身体的健康、またはメンタルヘルスに害を及ぼさないことを確実にすることを広く求めている。その側面は、帽子を掛けるほどのものではない。政府がAI倫理原則を導き出すことを決定するまで、または決定した場合、メンタルヘルスへのAIの悪影響から人々を保護することに関して彼らが何を念頭に置いているかはわからない。実際、実質的なものは何もないかもしれないし、手を振るだけの短い扱いを受ける可能性もある。
これは、筆者が前述のように分析した米国の州法に見られる具体性とはかけ離れている。それらの法律は具体的である。筆者は、何が具体化されているかについて必ずしも同意できるとは言っていないし、実際、大きな議論が可能であるが、少なくとも線を引こうとする何かがそこにある。何らかの線がないよりもあった方が良いのか。確かに、それは難しい判断であり、線が好きかどうか、流動的であることを好み、全く線が引かれないことを好むかどうかによる。
私たちが作る世界
AI基本法が真に何を意味するかは時間が教えてくれるだろう。多くの側面の確立と促進の呼びかけは実施されるのか。骨に肉がつけられるのか、具体性の提供を含めて。具体性は軽いものになるのか、それとも重いものになるのか。私たちは待って見る必要がある。
大きな視点で終わろう。
社会的メンタルヘルスに関しては、私たちが今、壮大な世界的実験の最中にあることは議論の余地がない。その実験とは、AIが国内的にも世界的にも利用可能になっており、明示的にまたは陰湿に、何らかの種類のメンタルヘルスのガイダンスを提供するように行動しているということである。無料または最小限のコストで行われている。いつでもどこでも、24時間365日利用可能である。私たちは皆、この無謀な実験のモルモットである。
私たちは、新しい法律が必要なのか、既存の法律を使用できるのか、またはその両方なのかを決定し、社会全体のメンタルヘルスに悪影響を与える可能性のある潮流を食い止める必要がある。これが特に考慮するのが難しい理由は、AIが二重使用効果を持つためである。AIがメンタルヘルスに有害である可能性があるのと同様に、メンタルヘルスにとって巨大な強化力にもなり得る。繊細なトレードオフを注意深く管理する必要がある。マイナス面を防止または軽減し、一方でプラス面を可能な限り広くかつ容易に利用可能にする。
著名な哲学者であり社会理論家であるテオドール・アドルノは次のように述べた。「曖昧な表現は、聞き手が自分に合ったもの、そしていずれにせよすでに考えていることを想像することを許す。」どのようなAI法が作られるにせよ、曖昧で不確定なものではなく、具体的で理解可能なものであることを確実にすることが適切であろう。競争の場を平準化しよう。
