tech
Quand on dit qu'un modèle d'IA a une « limite de contexte » ou que son utilisation coûte un certain montant, ces chiffres ne se comptent ni en mots ni en lettres, mais dans ces unités particulières.
Un jeton (token) est l'unité de base qu'un modèle d'IA utilise pour traiter du texte, et ce n'est pas toujours un mot entier : les mots courants peuvent former un seul jeton, tandis que les mots plus longs sont découpés en fragments plus petits, et même la ponctuation peut compter comme un jeton à part entière. Les modèles lisant et générant du texte jeton par jeton, leur limite de contexte comme leur coût d'utilisation sont mesurés en nombre de jetons plutôt qu'en lettres ou en mots entiers.
Une clé de sécurité numérique et une cryptomonnaie utilisent elles aussi le mot « token », mais désignent des concepts totalement différents issus de domaines sans rapport, à savoir l'authentification et la monnaie numérique.
Comme différentes langues ou différentes formulations d'une même idée utilisent des nombres de jetons différents, une même phrase traduite ou rédigée de façon plus verbeuse peut finir par coûter sensiblement plus cher à traiter.
tech
Que signifie le sigle « GPT » dans ChatGPT ?Qu'est-ce qui rend un « agent IA » fondamentalement différent d'un tel chatbot ?Qu'est-ce que l'« apprentissage automatique » (machine learning) ?Que signifie qu'un logiciel soit « open source » ?Qu'est-ce qu'une « blockchain », en termes simples ?Qu'est-ce que « le cloud » dans l'informatique en nuage ?Un « réseau de neurones » en IA s'inspire vaguement de quoi ?Que représente un « NFT » ?En informatique, qu'est-ce qu'une « API » ?Que mesure le « test de Turing » ?Qu'est-ce que la « vision par ordinateur » ?Qu'est-ce que le « prompt engineering » ?Quration — Quration Play