Quel est le principal avantage de ces modèles de « raisonnement » ?

Les modèles de raisonnement s'arrêtent pour décomposer un problème en étapes intermédiaires avant de produire une réponse finale, plutôt que de générer une réponse en un seul passage immédiat comme le faisaient généralement les agents conversationnels précédents. En consacrant un effort de calcul supplémentaire au moment même où la question est posée, en générant une sorte de brouillon de raisonnement interne, ces modèles peuvent repérer leurs erreurs, explorer plusieurs approches et traiter des problèmes à plusieurs étapes, ce qui améliore sensiblement leurs performances sur des mathématiques difficiles, des énigmes logiques et des tâches de programmation complexes.

Ces modèles nécessitent toujours une connexion internet lorsqu'ils sont exécutés via un service cloud, cette option méconnaît donc leur mode de déploiement réel. Ils n'utilisent pas non plus moins de mémoire que les modèles plus anciens ; ce raisonnement supplémentaire, étape par étape, a tendance à consommer davantage de ressources de calcul par réponse, car générer ce raisonnement caché demande un temps de traitement et une puissance supplémentaires.

Cela montre qu'il n'existe pas qu'une seule voie vers de meilleures performances en agrandissant simplement un modèle ; laisser un modèle « réfléchir plus longtemps » au moment de la question peut parfois égaler, voire dépasser, les gains obtenus en entraînant un modèle encore plus grand depuis le début.