ポール・ビレルはあるファイルを探していた際、自社がわずか3日間に約40万通ものメールを送信していたことに気づいた。数カ月前に設定した自動化機能が無限ループに陥っており、さらにメッセージングシステムにおける別のループによって、不具合に気づくまでのわずか1日で1,200ドル（約18万円）のSMS費用が消費されていたのだ。
「うちに40万人もの顧客はいない」とビレルは語る。
いずれの問題についても、セキュリティチームからの警告は一切なかった。それもそのはずで、同社にはセキュリティチームが存在しないからだ。
これは、急増する極小規模の企業が直面している現状でもある。米国勢調査局によると、2023年時点で給与支給対象の従業員がいない事業者は3,000万社を超え、1兆8,000億ドル近くの収益（GDPの6.4%に相当）を生み出している。従業員を雇っていない事業体は、全米の事業所の78.4%を占める。
米国勢調査局のビジネス動向・展望調査によると、12月から5月初旬にかけて、米国企業全体のAI利用率は17%から20%の間で推移した。従業員250人以上の企業では37%に達した一方、従業員4人以下の企業では20%未満にとどまった。従業員20人未満の企業での利用率はこの半年間でほとんど変化がなく、一方で20人以上の企業では上昇した。
「個人事業主がAI活用で飛躍的な進展を遂げている」といった言説を目にしたことがあるかもしれない。しかし、政府のデータが示すのは、そうした傾向が見られるのは従業員20人以上の企業に限られるということだ。最も規模の小さい企業における活用率は横ばいのままである。
つまり、アーリーアダプターには手引書がなく、果敢にAIを取り入れた事業主たちは手探りで運用を進めているのが実情だ。
AIのミスを監視するためにAIを活用する
ビレルは34年間にわたり個人事業主として活動してきた。ニュージャージー州で「デリバリー・ナウ（Delivery Now）」という食品・ケータリング配送サービスを運営するほか、今年立ち上げたスープのサブスクリプション事業、そしてコンサルティング企業デケード・ストラテジー（Decade Strategy）を手がけている。彼のもとでは約30のAIエージェントと数人の人間の業務委託者が働いている。
メールの無制限ループのトラブルを経験した後、彼はミスを未然に防ごうとするのをやめ、早期に発見する仕組みを構築した。現在、4時間ごとにメッセージング費用を報告するジョブを走らせており、その末尾にはある指示が添えられている。
「ブレーキをかけろ。停止させろ、だ」とビレルは語る。
この報告体制により、気づかないうちに支払っていた課金の詳細が判明した。SMSプロバイダーは1メッセージの単位を70文字とカウントしていたが、ビレルは120文字または140文字だと思い込んで多数のシステムメッセージを作成していたのだ。その結果、毎回2倍の費用を支払っていた。
ビレルの月間のAI関連支出はかつて9,000ドル（約142万円）に達したこともあったが、現在は1,500ドル（約23万円）から2,000ドル（約31万円）の間に収まっている。この削減は低価格なモデルへの切り替えによるものだという。彼が最高財務責任者（CFO）と呼ぶAIエージェントは、帳簿の照合や銀行口座の確認を行い、日次の経費報告書を送ってくる。このエージェントには資金を移動させるのに必要なアクセス権限が与えられている。
送金を行う能力はあるものの、ビレルが許可を出していないため、このエージェントが実際に取引を実行したことは一度もないという。
稼働中の全エージェントを把握する
AIエージェントに過剰な権限を与えた場合に何が起こり得るかについては、大企業の方がすでに教訓を得ている。クラウド・セキュリティ・アライアンス（CSA）が1月に、規模や所在地の異なる組織のIT・セキュリティ専門家418人を対象に行った調査では、82%が自社インフラ内に把握していないAIエージェントが稼働していると回答した。
40%以上がそれが複数回発生したと答えた。また、約3分の2が過去12カ月間にエージェントに起因するインシデントを報告した。そのうち61%がデータ流出、35%が金銭的損失を伴うものだった。
エージェントを停止するための正式なプロセスを整えていたのはわずか21%にとどまった。エージェントが意図されたスコープ（運用範囲）を超えた行動をとった際、そのアクションを自動的にブロックしていた組織は11%にすぎなかった。
80%以上の組織が把握していないエージェントを発見している同じ調査において、3分の2以上が自社のエージェントに対する可視性に強い自信を持っていると回答した。
この調査の回答者は全員、セキュリティ機能を備えた組織で働いているにもかかわらず、エージェントの追跡を見失っていたのである。
幸いにも、セキュリティチームを持たない経営者の問題はよりシンプルだ。管理すべきエージェントのリストは手書きで書き出せるほど少ない。重要なのは、適切なガードレールが設定されているかを確認することだけだ。
20以上のセクターにわたる1,300人以上のエグゼクティブや上級リーダーを対象としたBCGの「2026年応用AIインデックス」によると、企業の約42%が2030年までにエージェントが自律的に行動することを期待している一方で、現在重要な管理策を講じている企業はわずか5%にとどまる。
コストをほとんどかけずに設定できる5つのガードレール
これらはいずれも、セキュリティ予算やエンジニアを必要としない。
従量課金制のすべての自動化プロセスに、利用額の上限と停止条件を設定する。大半の事業主は、そのリストが短いにもかかわらず、上限が設定されている項目が一つもないことに気づくはずだ。筆者は以前、小規模企業におけるAIエージェントのスプロール現象（乱立）について執筆したが、システム自体は動作し続けるため、金銭的な影響には気づきにくい。
資金の移動、顧客へのメール送信、レコードの変更が可能なエージェントを書き出し、それぞれについて実際に自らが承認を与えたかどうかを横に記載する。他の支出と同様に、何をまず測定すべきかを決定することがここでも当てはまる。
エージェントを起動する前に、どのようにオフ（停止）にするかを決めておく。
使用しているツールが自動更新されるかを確認する。AIセキュリティの研究者たちは5月、「Plugin4Shell」と名付けた脆弱性を発見し、6月に関係企業へ通知した。これは最もよく使われている4つのAIコーディングエージェントに関連するもので、攻撃者は何もクリックすることなく悪用できる。プラグインの自動更新はバックグラウンドで実行され、「Claude Code」と「Codex」ではデフォルトでオンになっている。Claude Codeはバージョン2.1.179で、Codexは0.146.0で修正された。GitHub Copilotは修正パッチを公開しておらず、Gemini CLIは非推奨となりパッチの計画もない。
そして、自動化を有効にする前に、そのリスクや反対意見をモデル自身に質問してみる。これはビレルが最も高く評価している手法だ。
「ここに落とし穴はあるか？ 私が陥る可能性のある罠はあるか？」と彼は質問を投げかけるという。
「早ければ良い」とは限らない
素早く行動することに対する反論も存在する。
BCGの調査によると、最も成熟度が高いと評価された企業の44%が、現在エージェントから価値を引き出しているという。リターンを得ている企業とは、ガバナンスを最初に構築した企業なのだ。
国勢調査局のデータも、緊急性の捉え方を複雑にしている。従業員4人以下の事業者の大半がまだAIの導入を始めていないのであれば、今四半期中に急いで動く実質的なプレッシャーはない。もう少し待ったとしても、十分に先駆者（パイオニア）でいられるはずだ。
ビレル自身のデータも同じことを示している。彼のAI関連支出の減少は、運用の規律が高まったからではなく、主に安価なモデルが登場したことによるものであり、モデルの価格設定は彼自身がコントロールできるものではない。また、彼は意図して隠していないコストも受け入れている。電話を切ってしまう発信者がいると分かっていながらAI電話番を使用しており、少々の機会損失が受け入れ可能なトレードオフであると認めるのは気分の良いことではないと語る。しかし、資金が失われた後ではなく、失われる前に知らせてくれるシステムを彼は手にしているのだ。
「ダムが決壊する前に洪水を察知し、現場に駆けつけて穴を塞ぐことができるんだ」とビレルは語る。
