Quration AIQ

basics

Dans une longue conversation, l'IA peut sembler oublier ce que vous avez dit au début. C'est parce qu'il existe une limite stricte à la quantité de texte qu'un modèle peut retenir et traiter en même temps.

Comment appelle-t-on cette limite ?

Fenêtre de contexte
La fenêtre de contexte est la limite de tokens qu'un modèle peut traiter à la fois. Le GPT-3 d'origine gérait environ 2 000 tokens ; les modèles actuels atteignent des centaines de milliers, voire des millions.
▶ Quration AIQ

basics

Llama, le fer de lance des modèles « à poids ouverts » que n'importe qui peut télécharger et faire tourner sur ses propres serveurs, a été lancé par quelle entreprise ?Comment appelle-t-on les modèles capables de gérer plusieurs formes d'entrée et de sortie ?Que font ces « modèles de raisonnement » pendant cette pause ?Comment appelle-t-on cette approche ?Laquelle ?Quelle est l'une des principales réponses de l'industrie ?Pendant des années, une croyance simple a gouverné l'industrie de l'IA : « Augmentez le modèle, les données et le calcul, et la performance s'améliore de façon prévisible. » Comment appelle-t-on cette règle empirique — la justification des paris à plusieurs milliards ?Quel est l'acronyme de l'objectif au-delà de l'IA spécifique à une tâche — une intelligence artificielle aussi générale que celle d'un humain ?Comment les appelle-t-on ?Quel est le terme générique ?Comment appelle-t-on ces fragments ?Quand on dit qu'un modèle d'IA a « 70 milliards de paramètres », que compte-t-on exactement ?

Quration — Quration AIQ