DNSFilterのCTO、TK Keanini氏。
SLOP（合成された、低品質の、過剰生産されたコンテンツの略称）は、私たちのフィードを飽和させるAI生成メディアの洪水を表す包括的な用語となっています。
SLOPを単なる量の問題と考えるのは簡単です。テキスト、画像、動画の制作コストがほぼゼロになると、あらゆるものが増加します。しかし、本当の問題は量だけではありません。それは品質の希薄化と信頼の崩壊です。
コンテンツが拡大しても、人間の有限な注意力は拡大しません。本物の専門知識と合成された埋め草の区別がつかなくなると、私たちはすべてを疑い始めます。量とバイラル性に報いるプラットフォームはこの傾向を加速させ、クリック以上のものをほとんど追加しないメディアの中で溺れるような状態に私たちを置き去りにします。
SLOPは新しいものか、それとも以前にも見られたものか？
コミュニケーション技術の大きな飛躍はそれぞれ、印刷機からラジオやテレビの普及、現在のインターネットに至るまで、独自の「スロップ（粗悪品）」を生み出してきました。各シフトは障壁を下げ、本物のイノベーションと並んでノイズを生み出しました。今日の違いはスケールです：AIは現在、人間の作品とほぼ区別がつかない何十億もの成果物を生成できます。
しかし、大量生産されるものやAIを活用したものがすべてSLOPというわけではありません。その区別は価値にあります：そのコンテンツは情報を提供し、喜びを与え、つながりを作るでしょうか？それとも単にスペースを埋めるだけでしょうか？量だけが定義的な特徴ではありません。SLOPは、その量の相当部分が劣っている場合、つまり価値が空で、シグナルではなくノイズを追加するコンテンツである場合に明らかになります。
メディアを超えたSLOP：IT、サポート、サイバーセキュリティ
SLOPはメディアで最も顕著ですが、同じダイナミクスが組織生活の他の部分にも忍び込んでいます。最近のハーバード・ビジネス・レビューの記事では、再作業を必要とし生産性を低下させる低品質のコンテンツを表す「ワークスロップ」という用語が作られました。IT、サポート、コーディング、ドキュメントでは、AIはだらしない習慣と強い習慣のどちらも増幅する可能性があります。そしてサイバーセキュリティでは、敵対者はSLOPを武器に変えることができます。
ドキュメンテーションSLOPとは、権威があるように見えるがエラーや矛盾を含むAI生成文書を指します。それらは明確さを装った摩擦を生み出します。うまく行われれば、人間によってクロスチェックされたAI支援文書はカバレッジと一貫性を向上させ、システムの理解を容易にします。ドキュメントを作成することと同様に、ドキュメントを削除することも不可欠です。
コードSLOPでは、開発者はコンパイルはできるものの、非推奨または安全でない慣行に依存するAI提案のスニペットを貼り付けます。時間とともに、脆弱性が蓄積します。開発におけるAIは優れたプログラマーをさらに優れたものにしますが、低パフォーマンスの開発者をSLOPの生成者にもします。開発者がすでに熟練しており、AIがブレインストーミングのパートナーとして使用される場合、彼らは出力を厳密にテスト、ベンチマーク、レビューします。AIは品質を犠牲にすることなく探索を加速します。
サイバーセキュリティは異なります。ここでは、SLOPは単なる内部の混乱ではなく、敵対者の戦術的ツールです。IT、マーケティング、リーダーシップとは異なり、SLOPが偶発的または不注意である場合、サイバーセキュリティの領域では、それは意図的かつ武器化される可能性があります。
サイバーSLOPは大規模なフィッシングを可能にします。AIは洗練されたフィッシングキャンペーンを大量生産し、「十分に良い」誘い文句でインボックスを圧倒します。次に脅威インテリジェンスの汚染があり、オープンフィードに偽のインジケータが埋め込まれ、アナリストのサイクルを無駄にし、実際の検出を遅らせます。AI駆動のアラートフラッディングは、合成ログと偽のイベントを作成し、本物の侵害をノイズの下に埋もれさせます。国家主体とサイバー犯罪者はAIベースの偽情報キャンペーンを実行し、信頼を不安定化させるために偽のペルソナとプロパガンダの激流を生成します。
冒頭で述べたように、悪意のあるテキスト、画像、動画の制作コストがほぼゼロに下がると、GenAIを使用する攻撃者による大規模な量的増加が結果として生じます。これは、防御側がマシンスピードの攻撃にマシンスピードの防御で対応する必要があることを意味します：AI駆動のトリアージ、異常検出、出所検証などです。
サイバーセキュリティにおいて、SLOPは非効率ではありません。それは機会費用です。ジャンクに無駄にされるサイクルはすべて、侵害を阻止するために使われないサイクルです。さらに悪いことに、武器化されたSLOPは重要な1つのシグナルを隠すことができます。
予測とベストプラクティス
次のSLOPの波が来ると予測しています。合成コードの脆弱性はゼロデイをトレーニングデータに埋め込み、AI生成コードを通じて伝播します。合成ログとアラートフラッドは、もっともらしいが偽のテレメトリの海の下に実際の侵害を埋める攻撃です。AI駆動のペルソナは、コンセンサスを製造し、言説を揺るがすことで合成アイデンティティとコミュニティを作成します。偽のベンダープロファイルと偽造されたコンプライアンス文書が調達パイプラインに忍び込みます。
また、意図とゴールベースのエージェント攻撃も予測しています。攻撃者は目標（「最小限の検出でアクセスを獲得する」）を指定し、専門化されたAIエージェントのネットワークにキャンペーンの設計と実行を任せます。すべてのステップを指導する（ループ内の人間）代わりに、攻撃者はより監督者（ループ上の人間）のように行動し、方向転換や改良のためにのみ介入します。
AIエージェントは目的を持ったSLOPを大規模に生成できます：適応型フィッシング、進化する偽情報、防御を常にテストし回避する動的アラートフラッディングなどです。緩和策には、重要なドメインでの自律型AIを制限するガバナンス、エージェント攻撃シナリオのレッドチーム演習、マルチエージェント連携を検出する行動分析、人間のチェックポイントを伴う厳格なレート制限などがあります。
ドキュメントのドラフトにAIを使用しますが、人間による検証を強制してください。あなたは機械ではなく人のためにドキュメントを作成しています。コーディングについては、AIの加速とCIテスト、ピアレビュー、セキュリティリンティングを組み合わせてください。優れたAIツールをあなたの最も才能あるプログラマーの手に渡し、彼らに道を示させましょう。サイバーセキュリティについては、敵のスケールに合わせた自動化を構築してください：AI駆動のフィルタリング、異常検出、出所検証などです。
SLOPを止める
SLOPは平凡なブログやAIリールの洪水によるメディアの懸念として始まりました。しかし、それははるかに広範囲に及びます。IT、マーケティング、サポート、リーダーシップに感染します。そしてサイバーセキュリティでは、それはさらに危険なものに進化します：武器です。
すべての領域にわたる教訓は明確です：AIはすでにあるものを増幅します。だらしない習慣はSLOPに拡大します。しかし、厳密さ、創造性、意図性も拡大します。課題はSLOPを完全に排除することではなく、AIで拡大するのが最悪ではなく最高の仕事であることを確実にすることです—特にネットワークと資産の安全を確保することに関しては。
