「Co-Design(共同設計)」という賭け
テンセントはHy3の開発思想を「Co-Design(共同設計)」と呼ぶ。モデルと、AIを前提に設計されたアプリケーションとを、一体で進化させていく反復プロセスのことだ。WorkBuddy、Yuanbao、ima、Marvis、CodeBuddyといった自社製品群が生きたテスト環境として機能し、あらゆるワークフローがモデルの能力を磨くためのフィードバックを生み出す。
同社によると、WorkBuddyの社内タスク成功率は72%から90%に上昇し、平均実行時間は34%短縮された。Yuanbaoでは、長文ドキュメント処理とAI検索におけるハルシネーションの発生率が半分以下に低下したという。
外部から検証できるのは価格である。テンセントクラウド経由の利用料は、入力100万トークンあたり約0.18ドル(約29円)、出力100万トークンあたり約0.59ドル(約96円)。さらにFP8量子化(8ビット浮動小数点形式への軽量化)版は、H200を8基搭載する単一ノードに収まり、必要容量は300GB未満だ。そのため、データを自社の管理下に置く「データ主権」を重視する企業にとっては、自社環境での運用も現実的な選択肢となる。
MoEによる効率化戦略
Hy3のアーキテクチャ選択には、テンセントの狙いがよく表れている。MoEモデルは、トークンを処理するたびにパラメータの一部だけを有効化する。インフラ分析によれば、この方式は大規模運用時に、全パラメータを常に使う高密度(dense)型モデルと比べてGPUあたりの処理能力を3〜8倍に高められる。先端AIチップの調達が制約され続ける市場において、この効率性は決定的に重要だ。
とはいえ、MoEアーキテクチャには弱点もある。業界分析は、一部の「専門家」が十分に活用されない「エキスパートの利用率低下」が根深い課題であること、そして負荷分散の複雑さが不具合の原因究明を難しくしかねないことを指摘する。企業の業務に典型的な、負荷が突発的に増減する低稼働の環境では、高密度型モデルのほうがコスト効率と予測可能性の面で優ることが多い。
テンセントの賭けは、自社の巨大なソフトウェアエコシステム(製品・サービス群)がこの稼働率の問題を解決してくれるという点にある。WorkBuddyは自動化の依頼を生み出す。Yuanbaoは対話データを蓄積する。WeChat、ゲームサービス、生産性アプリケーション群からは、多様な利用パターンが得られる。同社によれば、Hy3の1日あたりトークン消費量はプレビュー公開以降20倍に増え、WorkBuddy内で自らHy3を選択するユーザーは6倍に増えたという。
これが好循環を生む。ユーザーが増えるほど複雑なワークフローが生まれ、それがモデルを改善し、モデルの改善がエージェントをさらに有用にする、という循環である。


