Qual è il principale vantaggio di questi modelli di 'ragionamento'?

I modelli di ragionamento si fermano a elaborare un problema in passaggi intermedi prima di produrre una risposta finale, invece di generare una risposta in un unico passaggio immediato come facevano tipicamente i chatbot precedenti. Spendendo uno sforzo di calcolo aggiuntivo nel momento in cui viene posta una domanda, generando un appunto interno di ragionamento, questi modelli possono individuare errori, esplorare più approcci e gestire problemi a più fasi, migliorando sensibilmente le prestazioni su matematica difficile, enigmi logici e compiti di programmazione complessi.

Questi modelli richiedono comunque una connessione internet quando eseguiti tramite un servizio cloud, quindi quell'opzione fraintende il modo in cui vengono distribuiti. Non usano nemmeno meno memoria dei modelli precedenti; il ragionamento aggiuntivo passo dopo passo tende a usare più risorse di calcolo per risposta, dato che generare quel ragionamento nascosto richiede tempo ed energia di elaborazione aggiuntivi.

Questo dimostra che rendere semplicemente un modello più grande non è l'unica via verso prestazioni migliori; lasciare che un modello "pensi più a lungo" nel momento in cui viene interrogato può a volte eguagliare o superare i benefici ottenuti addestrando da zero un modello ancora più grande.