エンタープライズAIは信頼の危機に直面している。今年7月、パランティア（Palantir）のアレックス・カープCEOは、CNBCの番組「Squawk Box」のインタビューで、企業がトークン（AIがテキストを処理する際の最小単位）を消費して「のんびり構え」ながら自社の知的財産（IP）を明け渡すAI利用モデルを批判し、話題を呼んだ。
同月、マイクロソフトのサティア・ナデラCEOはブログ記事を公開し、企業に対してAIラボへ情報を過剰に提供することの危険性を警告した。トークンのコストと独自ノウハウの引き渡しという二重の対価を支払うことになりかねないと訴えた。
エージェント型AIプラットフォームのWriterは、こうした懸念に正面から取り組もうとしている。同社は本日「Enterprise Brain」を発表した。これはガバナンスの効いたユニバーサル・コンテキスト・レイヤーであり、ブランドシステム、メッセージング、顧客履歴、コンプライアンスロジック、意思決定、推論に至るまで、企業が自社ブランドに関して知るすべてを取り込み、その知識をAIエージェントが利用可能にしつつ、IPの露出を抑えることを目的としている。
企業は難しい状況に置かれている。エージェントが与えられたタスクを効果的に実行するにはコンテキストが必要だが、コンテキストを与えすぎればIPが不正な第三者に露出する恐れがある。Writerのアプローチは、エージェントが利用するためのコンテキストを取り込みつつ、モデルレイヤーとは分離して保持する。これにより、エージェントはブランドメッセージングを再現しながらもIPの露出は限定される。このコンテキストレイヤーは各組織が完全に所有・管理し、システム間で持ち運びが可能だ。
シリコンバレーへのIP引き渡し
ClaudeやChatGPTのようなフロンティアAIツールは企業で広く採用されているが、これらを利用することでIPがリバースエンジニアリングされ、競合製品を作られるリスクが高まるのではないかという懸念が広がっている。
今年4月、Figmaのディラン・フィールドCEOはAnthropicを「コミュニケーションにおいて一貫した誠実さを欠いている」と非難した。Anthropicの最高製品責任者マイク・クリーガーがFigmaの取締役会を退いてからわずか3日後に、隣接ソリューションであるClaude Canvasを発表したためだ。
この件をはじめとする同様の事例は、多くの識者から批判されている。例えば、ニュースレター「AI Solopreneur」の創設者オーレ・レーマンはXで「OpenAIとAnthropicは、最大の顧客たちを食い物にし続けるだろう」と投稿した。
同様に、5月にOpenAIのサム・アルトマンCEOがY Combinatorのスタートアップに無料トークンを提供した際、ベンチャーキャピタリストのジェイソン・カラカニスは投稿で、「これらのトークンを受け取れば、OpenAIがあなたのスタートアップの動向を精査し、アイデアを模倣して自社の無料提供にアプリを組み込む可能性はゼロではない」と主張した。
Writerの共同創業者兼CEOメイ・ハビブによれば、企業リーダーとフロンティアAIベンダーの間には深刻な信頼の欠如がある。「私が交わすCレベルの会話には、必ずと言っていいほど、AIラボとの間で経験した信頼の欠如について話が及びます」と彼女はビデオインタビューで語った。
「複数のCIOから、ラボが自分たちのデータを取得して銀行をリバースエンジニアリングすることを止めるものは何もない、と聞かされました」とハビブは述べた。「これはCxOたちがやり取りする上で最優先の関心事であり、コンテキスト、メモリ、ソブリンAIを社内で構築したいという強い欲求を生んでいます」
ハビブによれば、Enterprise BrainはWriterが「エンタープライズのノウハウ」をプロダクトマーケティング、セールスイネーブルメント、ブランドアーキテクチャといった領域横断的に取り込み、そのコンテキストをモデルレイヤーから切り離されたIPの堀へと変え、モデルの学習データに紛れ込まないようにする手段だという。
なお、この発表は、GLM 5.2で構築されたWriterのPalmyra X6モデルの発表からわずか1カ月後に行われた。
リバースエンジニアリングへの懸念
IP保護を考える上で、OpenAIはChatGPT Enterpriseではデフォルトで会話、ファイル、出力を学習に使用しないと主張しており、Anthropicもデフォルトでは入力や出力を商用モデルの学習に使用しないとしている。書面上、企業はIP露出に対して一定の保護を得ているが、それでも漏洩に関する別の懸念は残る。
IDCのリサーチディレクターであるロジャー・ベハリー・ラルはビデオ通話で、組織が適切に契約を結び、正しいガードレールを設定していれば一定の保護は得られるものの、リスクは残ると語った。例えば、対策を講じていても、従業員がワークフローの一環としてChatGPTなどのコンシューマー向けバージョンを利用することで、意図しない第三者にIPが漏洩する可能性がある。
「安価なバージョンや、より劣ったプラットフォーム、フリーミアム版などを利用している小規模事業者の多くにとっては、自社の顧客成功事例、秘伝のレシピ、市場投入戦略などを、そこから学習して他社に応用する仲介者と共有してしまうリスクが少なからずある」とラルは述べた。
AIリクルーティングプラットフォームDexの共同創業者兼CEOパディ・ランブロスはメールで、「多くの企業が、フロンティアラボが自社の中核市場において挑戦者として台頭しつつあると認識するようになっている」と指摘した。
彼はまた、フロンティアAIのIP保護についても懸念を示した。「ラボが何を学習に使っているのか、何を使っていないのか、しばしば不明瞭です。ほとんどのエンタープライズ契約にはクライアントデータを学習に使わないという確約が含まれていますが、これらの企業は急成長しており、独自データを巡る競争は非常に熾烈で、多くのモデルはブラックボックスのようなもの。実態を本当に知る者などいるでしょうか」とランブロスは述べた。
IPを露出から守る
Writerがフロンティアラボから企業を引き寄せるには、まさにこうした懸念に応える必要がある。これまでのところ、複数のツールをまたいで業務を計画・実行できるエージェント型プラットフォームを構築するというアプローチは、マース、クロロックス、H&Rブロック、バンガード、マリオット、セールスフォース、アクセンチュアなど、Global 2000クラスの顧客を数多く獲得している。
Enterprise Brainについて尋ねられたラルは、Writerはマーケティング特化型で、ワークフローのロジックを理解する「基盤モデル層には単純に存在しない」ハーネスを付加する機会を見出しているのだろうと述べた。より広く見れば、Writerのアプローチは、マーケティングワークフローを自動化するためにエージェントに共有コンテキストへのアクセスを付与する方法の一例を示している。
多くの企業はIPの露出を防ぐためにエージェントからコンテキストを差し控えようとするが、これはエージェントの能力そのものを制限する結果にもなる。IPの露出を抑えつつエージェントのコンテキストアクセスを高める方法を見出すことが、エージェント導入の長期的な価値を高める鍵となる。
