GPT-6.1 Solは高性能モデルを低価格で提供、Ultrafastの利用料は標準の6倍
OpenAIが発表したGPT-6.1 Solは、AIエージェントによるプログラム作成やコンピューター操作、専門業務を想定したモデルだ。OpenAIは、高性能モデル「GPT-6 Astra」に近い能力を、標準料金の約5分の1で提供すると説明している。複数の難しい性能試験でもAstraに迫るというが、実際の性能差は利用する仕事によって変わる。
GPT-6.1 SolなどのAPI利用料は、入力と出力それぞれの「トークン」数に応じて決まる。トークンとは、AIが処理する文字や単語の一部などを表す単位だ。GPT-6.1 Solの料金は入力100万トークン当たり2ドル(約316円)、出力100万トークン当たり10ドル(約1580円)。Astraはそれぞれ10ドル(約1580円)、50ドル(約7900円)で、Solの5倍となる。
速度を重視する利用者には、OpenAIが発表したUltrafastモードがある。同社によれば、CodexのStandardモードと比べ、GPT-6.1 Solがトークンを生成する速度は最大8倍になる。開発者はAPI経由で利用でき、対象プランならCodexとChatGPT Workからも使える。
ただし、Ultrafastの料金は標準APIの6倍だ。入力100万トークン当たり12ドル(約1896円)、出力100万トークン当たり60ドル(約9480円)が必要になる。高速化によって節約できる時間と、増える利用料を比較しなければならない。
たとえば、ソフトウェアの生成、欠陥の修正、動作試験に数分かかるAIエージェントなら、時間短縮に追加料金を払う価値があるかもしれない。夜間に文書を分析する自動処理なら、回答が速くなっても6倍の料金を払う効果は乏しい。開発者は仕事ごとに、モデルの能力、速度、料金のどの組み合わせが採算を改善するか見極める必要がある。
Decisions APIは、迷惑メール判定などの単純な仕事を高速・低価格で処理
OpenAIが導入したDecisions APIは、簡単な判断だけを高速・低価格で実行するための仕組みだ。TypeSafe AIが意思決定向けモデル「Jev」を発表して以降、特定の判断に用途を絞ったAIへの関心が広がっている。
自動で複数の作業を進めるAIエージェントは、その途中で何度も単純な判断を下す。たとえば、受信メールが迷惑メールかどうかを見分け、ウェブページに役立つ情報があるか確かめる。次に使うツールを選び、取引を人間による確認へ回すべきか判断することもある。
必要なのは、多くの場合、項目の分類や点数付け、あらかじめ決めた選択肢からの選択だ。それでも開発者は、長い文章の生成や複雑な推論を得意とする汎用言語モデルを使いがちだ。「はい」か「いいえ」で済む判断に、高い計算費用をかけていることになる。
Decisions APIはGPT-6 Lunaを使い、文章と画像を受け取って、分類結果、数値による評価、確率の推定値などを返す。OpenAIによれば、従来のResponses APIで同等の判断をする場合より最大10倍速く応答する。料金は入力100万トークン当たり0.10ドル(約16円)で、出力トークンへの追加料金はない。
ハブスポットなどの初期試験では、判断の高速化と誤検知の減少が報告された
顧客管理ソフトを提供するハブスポット(HubSpot)は、Decisions APIを使ってプログラムの変更案を仕分ける試験を進めている。対象は、開発者が変更の取り込みを提案する「プルリクエスト」だ。同社のSidekickシステムが、どの変更案に追加の確認が必要か判断する。
OpenAIが公表した初期試験では、従来のAIエージェント方式より判断が6~15倍速くなった。費用は約半分に下がり、問題のない変更案を誤って追加確認の対象とする割合も半減したという。
AI向けのウェブ情報取得サービスを提供するParallel Web Systemsは、低品質なウェブページをほぼ完全に除外できたと報告した。ページの変更を見つける性能を測る指標「PR-AUC」は88.8%だった。PR-AUCは、変更の見逃しと誤検知の両面を評価する指標だ。地図・位置情報サービスの開発基盤を提供するMapboxの開発者は、画像を小さく分けた区画をAPIで選別し、必要な画像だけを高度なモデルへ渡して特徴を抽出する方法を実演した。
ただし、報告されているのは初期試験の結果であり、長期の本番運用による効果はまだ分からない。それでも、企業のAI業務には、そもそも文章生成の能力を必要としない工程が数多くあることを示している。


