Quration AIQ

basics

Taalmodellen zoals ChatGPT lezen zinnen niet als geheel. Ze verwerken tekst die in kleine stukjes is gehakt — en Nederlandse tekst valt vaak in meer stukjes uiteen dan Engelse, waardoor dezelfde passage 'duurder' wordt om te verwerken.

Hoe heten deze stukjes?

Tokens
LLM's verwerken tekst als tokens. Nederlands gebruikt vaak meer tokens dan Engels voor dezelfde betekenis, wat een nadeel oplevert bij API-prijzen en contextlimieten.
▶ Quration AIQ

basics

Als mensen een AI-model beschrijven als hebbende '70 miljard parameters', wat tellen ze dan precies?Hoe heet dit verschijnsel?Hoe heette het?Hoe heet deze trainingsstap met menselijke feedback?Hoe heet deze limiet?Llama, het vlaggenschip van zulke 'open-weight'-modellen, werd uitgebracht door welk bedrijf?Hoe noemen we modellen die meerdere vormen van invoer en uitvoer aankunnen?Wat doen deze 'redeneermodellen' tijdens die pauze?Hoe heet deze aanpak?Wat is het?Wat is één van de belangrijkste reacties van de industrie hierop?Hoe heet deze empirische regel — de rechtvaardiging voor miljardeninvesteringen?

Quration — Quration AIQ