サジャル氏はKyndrylに勤務し、スタートアップへの助言を行うほか、国連グローバル・コンパクトの元イノベーション専門家であり、EU委員会のApply AIアライアンスのメンバーでもある。
AI業界は、パラドックスに直面することになる。合成データは、独自の顧客情報に基づいて構築された独占を打破することで、AI開発を民主化できる。しかし、この同じ技術が自己消費型のフィードバックループを生み出し、エコシステム全体でモデルのパフォーマンスを低下させる恐れがある。これらは矛盾しており、合成データはAIにとって機会であると同時に脆弱性でもある。AIの現在の有用性は、使用状況に反映されており、プラットフォームのリーダーたちは、今日のAI言説を包み込む「AIスロップ」を強調している。
2030年までに、合成データがAI訓練を支配し、実データを完全に凌駕する可能性がある。合成データ市場自体は、2023年の3億5100万ドルから2030年には23億ドルに急増すると予測されている。一方、オンライン記事の50%以上が現在、AIによって生成されている。
組織は相反する要請に直面している。合成データは、より速いサイクル、より低いコスト、規制リスクの排除といった即座の利点を提供する。しかし、広範な採用はフィードバックループを加速させ、すべてのモデルを集合的に劣化させる。個々の合理的な決定が、システム全体の非合理性を生み出すのだ。
これは「コモンズの悲劇」に似ている。各組織は合成データから利益を得る一方で、共有資源である「クリーンなインターネットコーパス」は全員にとって劣化する。先行者は優位性を獲得する。後発者は汚染されたプールに直面する。混合訓練は、合成コンテンツの特定の閾値を設定しても、崩壊を遅らせることしかできない。
独占を打破する約束
合成データは、過去15年間を定義してきた競争優位性を解体する。Netflix（ネットフリックス）は20年かけて視聴データを蓄積し、競合他社が真似できない推薦アルゴリズムを強化した。Uber（ウーバー）の優位性は、数十億回の移動から得られたマッピングデータに基づいていた。
生成モデルは現在、独自情報にアクセスすることなく、これらの優位性を再現できる。NVIDIA（エヌビディア）とDatabricks（データブリックス）は、産業規模でスケーラブルな合成データ生成パイプラインを構築しており、マイクロソフトの研究チームは、合成データが組織の「AIデータの壁」を打破する方法を示す調査結果を発表した。
3つの力がこの上昇を推進している。第一に、プライバシー規制により、独自データのリスクが増大した。GDPR（EU一般データ保護規則）は、大きなコンプライアンスの負担を生み出す。合成データはこれらの課題を回避する。第二に、経済性は合成アプローチを支持する。合成データの生成は、実世界のデータセットを収集するよりもはるかに低コストである。第三に、データの希少性がAIアプリケーションを制限する。エッジケースは、実データセットに十分な頻度で現れることはまれである。
隠された大惨事
Nature誌に発表された研究は、「モデル崩壊」を記録している。AIモデルが再帰的に生成されたデータで訓練されると、パフォーマンスが不可逆的に劣化する。AIモデルがコンテンツを生成する。そのコンテンツがインターネットに氾濫する。将来のモデルは、この合成出力で不注意に訓練される。各世代は、より低品質で、より均質な結果を生み出す。分布の裾が消える。多様性が崩壊する。
研究者たちはこれを「モデル自食障害（MAD）」と呼んでいる。オックスフォード大学の研究は、9世代の再帰的訓練の後、言語モデルのパープレキシティスコアが2倍になることを示している。画像生成実験では、モデルが徐々に過小評価されたカテゴリを忘れることが明らかになった。犬種で訓練されたモデルは、最終的にゴールデンレトリバーのみを生成し、その後は完全にナンセンスなものを生成する。
フィードバックループは加速する。なぜなら、合成コンテンツは人間が本物のデータを生産するよりも速く拡散するからだ。2025年4月の90万のウェブページの分析では、74%がAI生成コンテンツを含んでいることが判明した。純粋に人間によるものはわずか25.8%だった。
合成データのみで訓練する場合、モデル崩壊は避けられない。Meta（メタ）のLlama 3.1 405Bの実験では、最大のモデルを自身のデータで訓練すると、パフォーマンスが低下することが明らかになった。最も有能なモデルでさえ、自身の合成データを通じて自己改善することはできない。
影響
従来の競争分析は、安定したリソースベースを前提としている。合成データは、共有インフラの集合的劣化を通じて優位性が侵食される動的な不安定性を生み出す。
3つの要請が浮上する。第一に、二重の能力を開発することが重要である。生成モデリングの専門知識が不可欠になる。合成データセットの作成に優れた企業は、単に実データを蓄積する企業よりも優位性を獲得する。同時に、本物の人間が生成したデータを確保することが戦略的に重要になる。これは、合成生成能力と保護された実データソースの両方への投資を意味する。
第二に、タイミングは従来の独占構築よりも重要である。モデル崩壊がシステム的になる前に優位性を活用する期間は、わずか数年かもしれない。モデル品質が高いうちに即座の利益のために合成データの採用を加速させるが、劣化が進むにつれて収穫逓減に備える必要がある。
第三に、競争本能にもかかわらず、協力的な解決策は探求に値する。業界全体のウォーターマーキング標準により、モデルが合成コンテンツと実コンテンツを区別できるようになる可能性がある。検証済みの人間データの共有リポジトリは、エコシステム全体でモデル品質を維持する可能性がある。
不快な現実
2030年までに、競争環境は、どの組織がこのパラドックスをうまく乗り越えたかを反映するだろう。純粋な合成データの採用はモデル崩壊につながる。合成データを無視すれば競争上の地位を放棄することになる。勝者は、同時に矛盾をマスターする。合成の優位性を活用しながら、システム的劣化から保護するのだ。
投資家は、合成データ能力だけでなく、エコシステムが劣化する中でモデル品質を維持するための戦略を精査すべきである。無期限の合成利益を前提とした評価は、楽観的すぎる可能性がある。デューデリジェンスには、生成モデリングの洗練度と、本物の人間データへの保護されたアクセスの両方を評価することが必要である。
合成データは、データの独占を打破すると同時に、すべてのAI開発を支える基盤を脅かす。これは技術的な解決策だけの問題ではない。個々の最適化が集合的な害を生み出す調整の課題である。このパラドックスをマスターする組織が、次の技術世代を定義するだろう。それを単純に扱う組織は、両方向から不利な立場に直面する。
我々は、技術史における奇妙な瞬間に立っている。人類は初めて、自らの有用性を同時に拡大し縮小できるツールを作り出した。今日生成されるすべての合成データセットは、明日のモデルを訓練する一方で、それらのモデルが依存するエコシステムを汚染する可能性がある。これは文明規模の技術的自食である。
皮肉を考えてみよう。合成データが可能にする民主化そのもの、つまりデータを蓄積する巨人からスタートアップを解放することが、本物の人間データの原始的な蓄えを維持する組織だけが生き残る新たな寡占に崩壊する可能性がある。我々は、ある形態の独占を、より陰湿な別のバージョンと交換しているのかもしれない。
哲学的な意味合いはより深い。モデルがますますモデルの出力で訓練されるなら、我々は、AIがもはや人間の現実を反映せず、代わりに近似の近似をますます洗練させた鏡の間を作り出している。機械学習が機械の近親交配になるのはいつか。パターン認識がパターン増幅に退化し、元の訓練コーパスに存在したバイアスや制限を強化するのはいつか。
社会が直面している問題は、合成データを使用するかどうかではない。その船は出航した。問題は、情報障壁を打破するために設計された技術を、情報砂漠を作り出す代わりに調整する集合的な知恵を我々が持っているかどうかである。このパラドックスは、加速と抑制の両方を同時に成功させることを要求する。歴史は、我々が後者よりも前者が得意であることを示唆している。
