「警察がいるなら、その警察を誰が取り締まるの？」。それは、昔のエピソードでリサ・シンプソンがホーマーに投げかけた問いだ。視聴者にとって幸いなことに、『ザ・シンプソンズ』はコメディであり、ホーマーの自警団づくりもまた笑い話だった。
それでも、人工知能（AI）が好奇心の対象から生活の事実へと変貌するにつれ、リサの問いは真剣に考える価値を増している。AIのガードレール（安全策）をめぐる疑問が浮上する。AIは私たちの代わりに行い、そして何より私たちの代わりに考えるからこそ、AIが取り締まられることは不可欠である。
AIの未来をつくる人々も、人間による監督の重要性を否定していない。AIが無限の可能性を実現するには、命を吹き込んだ当の人間社会からの信頼が必要だ。
ここで少し寄り道が必要だが、Nvidiaの共同創業者で最高経営責任者（CEO）のジェンスン・フアンに触れておきたい。フアンは、AIが独り歩きすることを恐れる人々に対し、AIは明確に自律的ではなく、「やっているのはデータ処理にすぎない」と長年言い聞かせてきた。
そう、AIは突き詰めれば機械である。重要なのは、その機械をオンにもオフにもできるのは人間だという点だ。要するに、そこが核心である。
世間は、比喩的に言えばAIの操縦席に人間がいることを知る必要がある。だからこそ、OpenAIは進化し続ける技術に対して一定のアプローチを取っている。AIに可能性を与えるものが、同時に監視を必要とすることを認識しているのだ。平たく言えば、OpenAIは入力と出力を点検する人員を増え続ける規模で雇い、常に通報すべき犯罪を探している。
注目すべきは、この人間の関与がすでに成果を上げていることだ。全米失踪・被搾取児童センター（NCMEC）のデータによれば、OpenAIの技術は「悪人を捕まえる」役割を果たしており、2025年上半期だけでNCMECへの報告が7万5000件超に達した。これはAIの驚くべき潜在力を物語っている。
人間の労力を置き換えるのではなく、AIはそれを増幅する。AIが膨大なデータを処理するという中核作業を担い、AIの「仕事」によって生産性が飛躍的に高まった人間が、より速く、より正確に悪人を見つけ出すのである。
OpenAIが高コストの人的部隊を雇用して技術の安全性を高めている事実は、Anthropicが採る正反対のアプローチに疑問を投げかける。Anthropicは「Constitutional AI（憲法AI）」をつくり上げ、Anthropicの機械を取り締まる警察役を機械自身に担わせている。
Anthropicの主張は、Anthropicの社員が執筆した「憲法」で機械を訓練することで、善悪の区別を教え込んだというものだ。「Constitutional AI」の支持者は、機械が善悪を見分けるだけでなく、「爆弾の作り方」の類いの機微な質問には回答を拒むよう訓練されているのだと説明する。
Anthropicの低コストで労働力を要しないアプローチには問題が多い。第一に、同年のOpenAIの7万5000件に対して、AnthropicはNCMECへの報告が5005件にとどまり、悪人の発見という点で効果が低いことが示されている。実際、Anthropicは17社のうちの1社として、Grindr、Redgifs.com、Pornhubといったプラットフォームと並び、報告件数が少なすぎて同機関が対応できないという通知をNCMECから受け取った。第二に、取り締まり機能の自動化は、AIを有用たらしめるもの、すなわち機械と組み合わさることで人間の天才性を増幅するという要素を奪う。第三に、AIが独り歩きするのではないかという大衆的な不安が残るなかで、Anthropicがコスト削減のために本質的に人間が担うべき機能を自動化しているという問題がある。
つまり、Anthropicの低コストによるAI取り締まりは、AIのエコシステム全体にとっての問題である。Anthropicは、いまだ懐疑的な世間に対し、機械が機械を監視することを信じるよう求めている。しかし世間が不安に感じているのは、まさに人間の監督を欠いた機械なのだ。リサ・シンプソンなら理解するだろう。
