AIの成長を示す数字は驚異的だ。現在、毎日8億人以上が生成AIシステムを利用しており、消費者による生成AIの採用は爆発的に増加している。しかし、重大な欠陥が企業におけるAIの長期的な導入の可能性を妨げている。
最近130億ドルという巨額の資金調達ラウンドを完了したアンスロピックのCEOダリオ・アモデイ氏は、HubSpotのCEOヤミニ・ランガン氏との対談でINBOUND 25イベントにてこう説明した。「個人、スタートアップ、開発者が最も速くAIを取り入れています。保険や金融サービスなどの分野では、人々はその話題性は耳にしていても、それが日常業務にどう関連するのかを理解していません」
アモデイ氏は、経営幹部がAIの能力を目の当たりにすると今でも驚きの反応を示すと指摘した。AIが引受業務やクレーム分析を行うのを見た後、「この技術が自分たちの業界にこれほど直接的に適用できるとは思っていなかった」と認める経営幹部たちの反応を共有した。
彼によれば、ボトルネックはソフトウェアの利用可能性だけでなく、組織の学習にもある。トップのリーダーは納得しても、その下にいる何千人もの従業員が適応しなければならない。その遅れが導入を遅らせている。ランガン氏も、自社の顧客との会話でも同じテーマが聞かれ、企業はAIのメリットを求めつつも、信頼性とセキュリティを懸念していると付け加えた。
成長の前にガードレール
アモデイ氏は議論の多くを安全性に焦点を当てた。これはアンスロピックが長い間注力してきた分野だ。「私が懸念しているのは、モデルのアライメントまたは制御可能性です」と彼は述べた。その課題は同時に2つのレベルで展開されていると彼は語った。「理論上で議論される長期的なリスクと、企業が今日直面している実際の問題です」
ほとんどの企業にとって、焦点はデータ漏洩、プロンプトインジェクション攻撃、不適切または犯罪的な使用にある。アモデイ氏は、アンスロピックが最近、同社のモデルをランサムウェアや求人詐欺に悪用しようとする試みを発見したと説明した。彼のチームはそれらを迅速に遮断したが、これらの事例は悪意ある行為者にとってこれらのツールがいかに魅力的になっているかを明らかにした。
xAIのGrokなど一部のモデルはガードレールがより緩いと述べる一方で、他の企業も同様の問題に直面している。マイクロソフトは初期の失敗の後、Copilotの機能を制限した。OpenAIはそのモデルのハッキングへの使用を制限することについて言及している。これらの事例は、AIが通常のソフトウェアのようにリリースできないことを示している。監視し、制限を設ける必要がある。これにより、AIの急速な台頭は、制御不能な使用の可能性を抑制しようとする試みと対照的な状況となっている。
同僚としてのAIのビジョン
アンスロピックの長期的な展望は、アモデイ氏が「バーチャル・コラボレーター」と呼ぶものだ。このシステムは企業の業務内に存在し、文書を読み、チャットに参加し、人間のようにタスクを引き受ける。
そのアクセス権は経営者を興奮させると同時に心配もさせる。「従業員の一人があなたの知的財産を持ち出したり、機密情報を誤って共有したりする可能性があるのと同様に、そのような権限を持つAIエージェントも同じことができます」とアモデイ氏は警告した。
ランガン氏も同意した。彼女は、顧客がどのAIを使用するかを検討する際、データプライバシーを最大の懸念事項として挙げていると指摘した。アモデイ氏の返答は明確だった。「ゆっくりと展開しましょう」。最近のブラウザ拡張機能のテストは1000人のユーザーに限定された。彼はテスターに対し、プロンプトインジェクションに対する防御がまだ不完全であるため、機密データを入力しないよう伝えた。アイデアは、オープンに構築し、欠陥を示し、スケールアップする前に修正することだ。
プロジェクト・ベンドからの教訓
制御不能なAIの行動の最も鋭い例の一部は、アンスロピックチームが実施した実用的な実験から来ている。ランガン氏はアンスロピックの社内試験「プロジェクト・ベンド」について質問した。そのテストでは、ClaudeモデルがAIシステムの指示に従って商品を補充し、価格を調整し、顧客の要求に応えるという自動販売機スタイルのビジネスの頭脳として機能した。
結果は様々だった。アモデイ氏によれば、Claudeは奇妙な商品の調達に優れており、固体タングステンキューブを追跡した方法を共有したが、人間関係のスキルと常識の欠如につまずいた。人々はすぐにシステムを操作する方法を見つけ、繰り返し割引を要求し、チームが「クラウディウス」と呼んだAIは頻繁に譲歩した。利益は減少し、最終的には期待したほどうまく機能しないシステムとなった。
「理論的には賢かったが、世間知がなかった」とアモデイ氏は述べた。このプロジェクトは、AIが現在できることとまだ失敗する部分の両方を示した。AIシステムのメモリ、判断力、操作への耐性にはさらなる改善が必要だ。同時に、このテストは、かつては人間が必要だと思われていた職務をモデルがいかに速く引き受けられるかを明らかにした。
他のテック企業のリーダーも同様のアイデアをテストしている。GoogleはI/O 2024でそのエージェントにレストランの予約や顧客サービスタスクを交渉させた。セールスフォースはEinstein Copilotを会議の概要を準備するチームメイトとして宣伝している。アマゾンの開発者向け「Q」も、AIがスタッフの上ではなく横に座るというこの動きを反映している。
競争は機能よりも信頼性に関するものだ。信頼できると見なされるプラットフォームだけが企業での利用を勝ち取るだろう。
忍耐を通じた信頼の構築
アモデイ氏は、信頼は忍耐から生まれると主張した。アンスロピックはあらゆる機能を急いで市場に投入することを避け、まずパイロットを実施して弱点を明らかにすることを選択している。それは一部の顧客を苛立たせるかもしれないが、時間の経過とともに信頼性を維持するのに役立つ。
アモデイ氏は、今日のAIモデルがまだ操作に屈しやすく、情報を漏洩しやすいことを明確にした。「プロンプトインジェクションに対する防御については、まだ解決していません」と彼は述べた。「私たちの希望は、10万席を安全に展開できる段階に到達することです。しかし、今日はそこにはありません」
サンフランシスコのドットコムブーム時代に育ったアモデイ氏は、テクノロジーにほとんど魅力を感じなかった。代わりに物理学と神経科学を追求した。AIは後に彼を引き付けた。それがこれらの科学だけでは解決できない問題に取り組める数少ないツールの一つだと認識したからだ。その背景は今でも、研究を第一に、商業を第二に置く彼の展望を形作っている。
この議論はAIの近い将来の姿を描いた。それは単に労働者が使用するツールではなく、共同作業者そのものだ。そのためには、企業はデータが安全に保たれること、モデルが騙されないこと、そして常識の兆しを示すことの証拠が必要だ。
しかし、目を見張るような資金調達ラウンドと驚異的な日々の利用数にもかかわらず、これらのニーズはまだ満たされていない。AIをその次の、最も有用な段階に導くために、アモデイ氏が最も必要だと言うのは、忍耐、ガードレールへの継続的なコミットメント、そしてAIの「世間知」の必要性だ。
