Qual é o principal benefício desses modelos de 'raciocínio'?

Modelos de raciocínio fazem uma pausa para resolver um problema em etapas intermediárias antes de produzir uma resposta final, em vez de gerar uma resposta em uma única passada imediata, como os chatbots anteriores costumavam fazer. Ao gastar esforço computacional extra no momento em que você faz uma pergunta, gerando um rascunho interno de raciocínio, esses modelos conseguem detectar erros, explorar múltiplas abordagens e lidar com problemas de várias etapas, melhorando perceptivelmente o desempenho em matemática difícil, quebra-cabeças de lógica e tarefas complexas de programação.

Esses modelos ainda exigem uma conexão com a internet quando executados por um serviço em nuvem, então essa opção interpreta mal a forma como são implantados. Eles também não usam menos memória do que modelos mais antigos; o raciocínio adicional passo a passo tende a usar mais recursos computacionais por resposta, já que gerar esse raciocínio oculto exige tempo e poder de processamento extras.

Isso mostra que simplesmente tornar um modelo maior não é o único caminho para um desempenho melhor; deixar um modelo "pensar por mais tempo" no momento da pergunta às vezes pode igualar ou superar os ganhos obtidos ao treinar um modelo ainda maior do zero.