CoDを使うタイミング
AIに簡潔な作業をさせたい場合は、CoDを使用すべきである。
潜在的な回答が特に詳細である必要がなく、ステップがコンパクトであれば、従来のCoTではなくCoDを使用することになる。CoTとCoDのどちらかを選ばなければならないというわけではなく、常に一方を他方より選択する必要はない――単に状況に合った適切な方を使用すればよい。
トークン課金制ではない無料プランを利用している人でも、多くの場合トークンの使用量に制限があり、上限を超えると一定時間使用できなくなるといった制約が設けられていることが多い。したがって、トークン消費の効率を考えることは重要だ。
CoDの使用に関する私の一般的なアドバイスは次のとおりである。私の好みは、物事を鋭く保つために、ほとんどの場合CoDを使いたい。トピックを広く探索したり、詳細な回答が欲しい場合には、CoDから従来のCoTに切り替えることもある。他に時々取る行動としては、まずCoDを使用して回答を見て、回答が過度に簡潔である場合は、プロンプトを再度入力する、この2回目は完全に制約のないCoTプロンプトを使用する。
CoDを裏付ける研究
私がプロンプトエンジニアリング技術を推奨する際には、その技術の正当性を示す実証研究が存在するかどうかを必ず確認するようにしている。新技法には多くの主張があるが、なかには研究的裏付けに乏しいものもある。
CoDについては、arXivに掲載された以下の研究が参考になる。
Silei Xu, Wenhao Xie, Lingxiao Zhao, Pengcheng He,『Chain of Draft: Thinking Faster by Writing Less』, arXiv, March 3, 2025
以下いくつか論文から引用する。「この研究では、人間の認知プロセスにインスピレーションを得た新しいパラダイム、チェーン・オブ・ドラフト（CoD）を提案する。この手法ではLLMはタスクを解決する際に、最小限でありながら有益な中間推論出力を生成する」。
「冗長な中間ステップの代わりに、CoDはLLMが各ステップにおいて簡潔で情報密度の高い出力を生成することを促す。このアプローチは、精度を犠牲にすることなく遅延と計算コストを削減し、効率が最も重要な現実世界のアプリケーションでLLMをより実用的にする」。
「冗長さを減らし重要な洞察に焦点を当てることで、CoDはさまざまな推論タスクにおいて、最少時にはわずか7.6％だけのトークンを使用しながら、CoTの精度に匹敵または上回り、コストと遅延を大幅に削減する」。
CoDに健全な基礎があることがわかれば、安心して使用できる。
たくみにプロンプトを使うことの意義
CoDは、たとえるなら金づちのような道具だ。金づちは釘を打つときに最適な道具であり、ネジを回すときには使わない。何にでも乱用するのではなく、ツールボックスに常備し、状況に合った用法を選ぶべきだ。
同様に、CoDもプロンプトエンジニアリングのツールキットやスキルセットに欠かせない存在である。CoDを自在に使いこなせるよう、実践を通じて経験を積むことが大事だ。いわゆる「カーネギーホールへの道」が「練習、練習、練習」で表現されるのと同様、CoDも多用する中で身に付けていくのが賢明だ。
