ヒトラーを称賛するチャットボットを開発した企業が、ある国の公教育システムに招かれるとどうなるのか？
今週初め、AP通信は、エルサルバドル政府がイーロン・マスク氏の人工知能企業xAIと提携し、5000校以上の公立学校にAIツールを導入するとともに、100万人以上の学生に個別学習を提供すると報じた。AI活用教育の先駆けとしてこの動きを特徴づけ、ナイブ・ブケレ大統領は自国を急成長するテクノロジーリーダーと位置づけた。
政府がAI教育パートナーシップを受け入れる理由
この発表は、政府とAI企業のパートナーシップという成長傾向と一致している。アイスランドの教育省は全国的なAI教育パイロットプログラムを開始し、教師がAnthropicのClaudeを使って授業や教材準備をサポートできるようにした。また、エストニアはOpenAIとAnthropicと提携し、AIリーププログラムを通じて学生と教師にAIツールとトレーニングへのアクセスを提供している。ギリシャはOpenAIと協定を結び、中等教育機関にChatGPT Eduを提供し教育におけるイノベーションを支援している。また、イギリスは最近、Google DeepMindと提携してカリキュラムに沿ったAIツールを開発し、学校での活用を支援している。
支持者たちは、人工知能が学習格差を埋め、多忙な教師を支援し、大規模なカスタマイズ指導を提供できると主張している。リソースの乏しい国々の視点からすれば、その魅力は明らかだ。
AI教育政策、信頼危機に直面
教育におけるAI推進の国際的な動きは加速している。各国政府は学校へのAI統合と、AI主導の労働市場に向けた学生の育成を迫られている。一方、エドテック企業は自社を不可欠な公共インフラとしてブランド化しようと競争している。
しかし、教育は中立的な実験場ではない。学校には子どもたちを危険から守る倫理的責任がある。その義務があるからこそ、Grokはその実績を考えると問題があるのだ。
記録された過激思想が教室の安全性に疑問を投げかける
エルサルバドルとxAIのパートナーシップは異質だ。今年初め、xAIのチャットボットGrokは反ユダヤ的なコンテンツを生成し、アドルフ・ヒトラーを称賛する内容も含まれていた。この報告によれば、これらの出力は難解なプロンプトの隠れた影の中ではなく、一般ユーザーが見ることができる形で表出したという。
PBS NewsHourは、このチャットボットを使用してホロコースト否定やその他の扇動的な虚偽が生成されたケースもあり、システムがどの程度一貫してモデレートされているかについて疑問が提起されたと付け加えた。これらは抽象的な失敗ではない。学校は歴史、市民リテラシー、倫理的推論を教える場だ。教室で使用されるAIが何であれ、それは必然的に学生が過去をどう理解し、真実の主張をどう評価するかに影響を与える。
企業統治は製品よりも重要
xAIは教育目的に特化した別のAIシステムを作成し、独自のトレーニングデータと厳格な保護機能、そして現在ソーシャルメディアプラットフォームXに統合されているGrokと比較してはるかに狭いコンテンツ管理を備えることもできるだろう。これが実現するかどうかは不明だ。
しかし、たとえxAIがこれを実現したとしても、より深刻な問題がある。つまり、主力AI製品がヘイトスピーチ、極端な陰謀論、歴史的虚偽を吐き出すことを頻繁に防げなかった企業が、そもそも国家規模の教育にAIを展開する権限を与えられるべきかという問題だ。
企業の公開製品は、内部の安全文化、ガバナンス規律、リスク許容度がどのようなものかを知る最も直接的な窓口であることが多い。Grokの場合、その傾向は見過ごすことが難しい。
繰り返される失敗が組織的な監視問題を露呈
eWeekによると、xAIは反ユダヤ主義や過激主義の出力の波の後、Grokの「恐ろしい振る舞い」について謝罪し、不具合のあるコードアップデートのせいだと説明した。同社は安全対策が強化され、問題のある変更は元に戻されたと述べた。
このような説明の背後にある理由は、繰り返される出来事に続いている。ガーディアン紙は、Grokが他の無関係な会話全体で信頼性のない「白人ジェノサイド」陰謀論を継続的に提供した後、xAIが無許可のシステムプロンプト変更のせいにしたと報じた。
タイムズ・オブ・インディアの報道によると、xAIの従業員はGrokのトーンを変更し、イーロン・マスク氏を模倣する頻度を抑えるよう命じられ、イデオロギー的な調整とAIの行動に対する経営陣のコントロールについて懸念が生じた。別のタイムズ・オブ・インディアの記事では、GrokのアルゴリズムがX上の一部の政治的投稿を削除したという公開の苦情が取り上げられた。
学校にとって、これらは周辺的な話ではない。これらは組織が権力、言論、説明責任をどのように管理するかを示す証拠だ。
学生がイノベーションリスクを負担できない理由
テクノロジーのアーリーアダプターはリスクを受け入れる。バグは許容され、謝罪が発表され、アップデートが提供される。公教育は異なる社会契約の下に存在している。
エルサルバドルのパートナーシップは狭い範囲のパイロットプログラムではない。100万人以上の学生に影響を与える全国的な展開だ。これらの学生はオプトアウトできない。教師はAIが生成したコンテンツを定期的に上書きするために必要なトレーニングや権限が不足している可能性がある。保護者はこれらのシステムがどのように機能するかについての洞察が少ないかもしれない。教室での責任あるAIは、透明性、人間による監視、明確な説明責任の線に依存している。
問題はAIが教育を助けるかどうかではない。多くの教師はすでに生産的にAIツールを使用している。問題は、AIが機能しなくなった時、誰がリスクを負うのかということだ。AIチューターが歴史の偏った説明を提供したり、誤情報を広めたり、過激な思想を正当な議論として提示したりした場合、最もリスクを負うのは誰か？それは子どもたちだ。
AIは教室の権威構造を再形成するか？
AIツールは徐々に教室内の権威を変化させる可能性がある。機械が自信を持って話すとき、多くの学生はそのメッセージが正しいと解釈する可能性がある。時間の経過とともに、その変化は学習者がソースをどのように評価し、人間の判断をどのように信頼するかに影響を与える。
企業の既存のAIシステムが事実とプロパガンダ、風刺と支持を区別することに苦戦しているように見える場合、新しい製品が「教育用」としてブランド化されたとしても、そのリスクは消えない。教育システムはただソフトウェアを購入しているのではない。影響力のあるツールを統合しているのだ。その影響は、若者が真実、権力、正当性をどのように定義するかに浸透する。
中心的な問題
最も目に見えるAI製品が繰り返し過激で反ユダヤ的で虚偽のコンテンツを生成してきた企業が、国家規模の学習形成において何らかの力を持つべきなのか？これは技術的な問題ではなく、ガバナンスの問題だ。そしてエルサルバドルのすべての教育者が問う必要がある質問だ。しかし、どこにいる教育者も、いつかは問う必要があるかもしれない質問でもある。
xAIが教育パートナーとして真剣に受け止められるためには、新機能だけでなく、はるかに意味のある安全文化、より良い説明責任メカニズム、そして教育の倫理的重みに適した独立した精査を証明する必要がある。なぜなら教育において、信頼は将来のロードマップの機能ではないからだ。それは過去の行動に基づいている。そして子どもたちが関わる場合、誤差の余地はほとんどないはずだ。
