¿Cuál es el principal beneficio de estos modelos de 'razonamiento'?

Los modelos de "razonamiento" se detienen a trabajar un problema en pasos intermedios antes de dar una respuesta final, en lugar de generar una respuesta en una sola pasada inmediata como solían hacer los chatbots anteriores. Al dedicar un esfuerzo de cómputo adicional en el momento en que haces la pregunta, generando un borrador interno de razonamiento, estos modelos pueden detectar errores, explorar varios enfoques y abordar problemas de múltiples pasos, mejorando notablemente el rendimiento en matemáticas difíciles, acertijos lógicos y tareas de programación complejas.

Estos modelos siguen necesitando conexión a internet cuando se ejecutan a través de un servicio en la nube, así que esa opción malinterpreta cómo se despliegan. Tampoco usan menos memoria que los modelos anteriores; el razonamiento adicional paso a paso suele consumir más recursos de cómputo por respuesta, ya que generar ese razonamiento oculto requiere procesamiento y energía adicionales.

Esto demuestra que simplemente hacer un modelo más grande no es el único camino hacia un mejor rendimiento; dejar que un modelo "piense más tiempo" en el momento de la pregunta a veces puede igualar o superar las ganancias de entrenar desde cero un modelo aún más grande.