Modèles classiques et modèles de raisonnement plus coûteux — quelle est une règle saine pour choisir entre les deux au travail ?

La règle raisonnable consiste à faire correspondre le niveau du modèle à la difficulté de la tâche : les résumés du quotidien, les brouillons et les recherches rapides tournent très bien sur un modèle rapide standard, tandis que les problèmes réellement difficiles — mathématiques à plusieurs étapes, décisions d'architecture système, analyses complexes — bénéficient d'un modèle de raisonnement plus lent, qui consacre davantage de calcul à travailler le problème avant de répondre, ce qui explique aussi pourquoi les modèles de raisonnement coûtent généralement plus cher à l'usage.

Supposer que l'option la plus chère est toujours supérieure ignore que la vitesse et le coût constituent de vrais compromis pour les tâches simples, et alterner les modèles selon le jour de la semaine n'a aucun rapport avec ce que la tâche exige réellement.

Cette division reflète un choix de conception plus large vers lequel les entreprises d'IA ont convergé : plutôt qu'un modèle unique cherchant à être à la fois rapide et profondément réfléchi, elles proposent un mode par défaut rapide et un mode optionnel « réfléchir davantage » que l'on invoque seulement quand le problème le justifie.