「ラップアラウンド」の利点と欠点
称賛されるラップアラウンドの側面が意味するところを考えたい。
たとえ話を使おう。車を運転する際、ほとんどの人は自動変速機（オートマチックトランスミッション）を好む。かつては手動変速機が標準だったが、次第に自動変速機が標準になった。
GPT‑5のモデルは、どのGPT‑5サブモデル（たとえ話の「ギア」）を使うべきかを決める自動変速機のようなものだ。日常的なユーザーはおおむねそのアプローチに満足するだろう。ただし、自動変速機がときに最善ではないギアを選んでしまうことがあるように、GPT‑5が選ぶサブモデルの選択も最良でない場合がある。
問題は、自動モードで選ばれたサブモデルが最良ではなかったとしても、そのまま実行されてしまう点にある。利用料金を支払っているなら、その実行時間のコストは発生するのに、期待ほど堅固な答えを出さないことがありうる。
さらに、最適ではないサブモデルの選択がなされたという事実によって、知らず知らずのうちに不当な扱いを受けたことにさえ気づかないかもしれない。むしろ生成された答えが可能な限り最良の達成だったと仮定するだけの可能性が高い。だが一方、車が坂道や直線道路を走っているときには特定のギアを選択するのと同様に、より良い仕事をするかもしれないと思ったGPT-5サブモデルの1つを直接試した場合には、より良い結果が生じたかもしれない。
この自動切り替え機能が時間とともにどう進化するかは興味深い。現時点の利点は、どのサブモデルを使うかという骨の折れる選択をしなくてよくなる点だ。欠点は、自動切り替えが利用者にとって必ずしも最適ではない選択を下す恐れがある点だ。
いわゆる「思考時間」の側面
生成AIやLLMの利用では、処理にどれだけの実行時間を与えるかを決める点も重要だ。
私は以前から、これを業界の多くが「Thinking Time」（思考時間）と呼ぶのは耳障りだと主張してきた。「思考」という語は人間の思考や精神的処理を想起させるためであり、AIの擬人化という不適切で正当化できない表現である。実際に起きているのは、計算処理時間をより多く許しているだけだ。
私はこれを崇高な「思考」と同一視しないが、そう表現するのが一般的になってしまったのは事実だ。悲しいことだ。
私は一貫して、どれだけの実行時間が適切かをユーザーに決めさせるのは難しいと述べてきた。多くの場合、適切な時間の見当はつかない。純粋な当てずっぽうになりがちだ。AIの内部動作に通じていない限り、少し時間を足すのがよいのか、たくさん足すべきなのか判断は難しい。追加の処理時間はコストを押し上げ、結果が出るまでの時間も延びることも忘れてはならない。
GPT‑5には、自動変速機の別の側面として、依頼内容に応じて処理をどれだけ続けるべきかを判断しようとする仕組みがある。実際に人々がGPT‑5を使い込んだときにどうなるかは、これから明らかになるだろう。不要な追加実行時間が大量に発生する可能性もあるし、最適に近い実行時間に落ち着く可能性もある。
