いまテック系メディアで話題を呼んでいる新しいニューラルネット製品がある。その名は「Jev」だ。Typesafeという企業が開発したこのモデルは、人間のユーザーが質問しても、何ページにもわたる文章を書き連ねることはしない。ただ、いくつかの確率を出力するだけだ。
実際、Jevはユーザー向けではなく、一種の「A2A」ツールと呼ばれている。それ自体が興味深い。私たちはAIが本質的に言語的であり、チャットボットのような形で応答してくれるものだと期待する世界に生きているからだ。
これまで、ほとんどのモデルはこの種の言語インターフェースだった。そのため、AIに「意識」があるのかをめぐる激しい議論が交わされてきた。人間の認知を模倣する過程で、言語を通じて人間の活動をも模倣しているからだ。
Jevのような製品は、ある意味で、かつての決定論的プログラミングにより近いものへの回帰である。もちろん、従来の意味で決定論的というわけではない。だが、おそらくより範囲が限定されている。Jevのようなシステムにプロンプトを与えれば、その応答はより限定的で、気まぐれさや広がりは少ないと期待できる。
そこで、もう1つの論点が浮かび上がる。コストである。
トークン処理の効率
Jevモデルは、同じプロンプトに対して、よりおしゃべりなモデルよりも少ないトークンしか生成しない。しかも、はるかに少ない。結局のところ、あの大量のテキストには、アイデアを言葉へと変換するトークン処理が必要になるからだ。
「ほとんどの企業は、アプリケーションが必要としているのが高速で範囲の限定された判断だけである場合でも、汎用LLMを万能の知能レイヤーとして使っている。それは、イエスかノーかのルーティング問題に答えるために、フル機能のエンタープライズサービスバスを使うようなものだ」と、独立系テクノロジーコンサルタントのデイビッド・リンシカムは、InfoWorldのAnirban Ghoshalによる報道で引用されている。「これに、1つのタスクが多数のモデル呼び出しを引き起こし得るエージェント型ワークフローの力学が加わると、あらゆる判断に汎用LLMを使うコストと遅延はすぐに積み上がる。ワークフロー内の範囲が限定された判断の一部を確率的な関数呼び出しで処理できるJevのようなモデルは、実際に汎用LLMを必要とする部分のためにそれを温存する手段を企業に与える」
ある意味では、そうしたテキスト生成のすべては無駄な計算にすぎない。だからこそ、代替手段を提供するために、このような形でモデルの形式を変えることには合理性がある。MITの著名な論者だったマービン・ミンスキーは、脳は多数の小さなコンピューターの集合体だとよく述べていた。そうだとすれば、Jevは言語中枢とは異なる脳の一部、つまり本質的に別のことを行う部分のデジタル上の類似物を表していると言える。
内部の仕組み
GitHubユーザーのVinnylarougeは、Jevのアーキテクチャを次のように説明している。
「各選択肢は、そのテキストを表す短い数値のリストであるクエリベクトルになる」と、このプログラマーは書いている。「クエリはコンテキストトークンに注意重みを割り当てる。それらの重みによって、その選択肢に対する1つのコンテキストベクトルが作成される。共有された内積が、各選択肢とコンテキストのペアを1つのスコアに変換する。スコアを合計が1になる確率に変換するソフトマックスが、選択肢全体に対して実行される」
要するに、そういうことだ。
確かに、Jevは一味違う存在だ。このモデル類型のガイドで、NNNNは要素識別、クリック予測、動的なフロー分岐、複数タブのオーケストレーションを通じたブラウザ状態評価の利用を説明し、JevはCalibrated Decisionsからの強化学習（RLCD）を用いて訓練されていると指摘している。
寡黙で頼れる存在
ここでの考え方は、Jevのような非会話型モデルを、ビジネスワークフローに新しい形で適用できるというものだ。ビジネス上のクエリに、多くの解説が必要になることはまれである。必要なのは、数値が返ってくることだけだ。Jevは、余計な解説を省いて数値だけを返すことを得意としている。
その名称については、The RegisterのThomas Claburnがこう述べている。
「『Jev』という名前は、19世紀の英国の経済学者ウィリアム・スタンリー・ジェヴォンズにちなんだものだ。彼はジェヴォンズのパラドックスで知られ、石炭利用に関する技術効率の向上は、石炭消費を減らすどころか増加させたと論じた」とClaburnは書いている。「この名前はまた、トークン単価が下落しても、トークン効率の向上がトークン消費を増加させるだろうというAI業界の賭けを反映している。その賭けは、トークン市場がエネルギー市場と同じくらい広範になるという前提に立っているが、それはまだ確定していない。AIツールにアクセスできる多くの人々が単に使い道を見出せなかったり、道徳的な反対からAIツールを避けたりしているからだ」
これは筋が通っている。ジェヴォンズのパラドックスは基本的に、普及している対象に対して強い需要や欲求があることを前提としているからだ。どうなるか、見ていくことになる。
そういうわけで、この製品はJevと呼ばれ、業務ワークフローの中で目にすることになるだろう。
