こうした「推論」モデルの主な利点は?

推論モデルは、最終的な答えを出す前に、一旦立ち止まって中間段階を経て問題を検討する。これは、以前の一般的なチャットボットのように、応答を一気に一発で生成するのとは異なるやり方だ。質問された瞬間に追加の計算処理を費やし、内部的な思考の下書きのようなものを生成することで、こうしたモデルは誤りに気づいたり、複数のアプローチを検討したり、複数の段階を要する問題に対応したりできるようになり、難しい数学や論理パズル、複雑なコーディング課題での性能を目に見えて向上させている。

こうしたモデルは、クラウドサービスを通じて実行する場合にはインターネット接続を依然として必要とするため、この選択肢はモデルの実際の使われ方を誤解している。また旧来のモデルより使用メモリが少ないわけでもない。段階を追った推論を追加で行うことは、答え一つあたりの計算資源をむしろ多く使う傾向がある。目に見えない思考過程を生成すること自体に追加の処理時間と電力がかかるためだ。

これは、モデルを単に大きくすることだけが性能向上への唯一の道ではないことを示している。質問された瞬間にモデルに「じっくり考えさせる」ことで、一から訓練したさらに大きなモデルによる性能向上に匹敵するか、それを上回ることさえある。