basics

I modelli linguistici come ChatGPT non leggono le frasi tutte insieme: elaborano il testo suddiviso in piccoli pezzi — e il coreano si divide in più pezzi dell'inglese, rendendo lo stesso testo 'più costoso' da elaborare.

Come si chiamano questi pezzi?

Q: Come si chiamano questi pezzi?

Token. Gli LLM elaborano il testo come token. Il coreano tende a usare più token dell'inglese per lo stesso significato, il che lo svantaggia nei prezzi delle API e nei limiti di contesto.

Token ✓
Pixel
Pacchetti

Token
Gli LLM elaborano il testo come token. Il coreano tende a usare più token dell'inglese per lo stesso significato, il che lo svantaggia nei prezzi delle API e nei limiti di contesto.

▶ Quration AIQ

basics

Quando si dice che un modello IA ha '70 miliardi di parametri', cosa si sta effettivamente contando?Come si chiama questo fenomeno?Come si chiamava?Come si chiama questa fase di addestramento con feedback umano?Come si chiama questo limite?Llama, il modello di punta dei modelli 'a pesi aperti', è stato rilasciato da quale azienda?Come si chiamano i modelli che gestiscono più forme di input e output?Cosa fanno questi 'modelli di ragionamento' durante quella pausa?L'IA gira dentro il dispositivo, non nel cloud — come si chiama questo approccio?Questa tecnica prende il nome dalla raffinazione dei distillati. Qual è?Quale è una delle principali risposte del settore?Come si chiama questa regola empirica — la giustificazione di scommesse miliardarie?

Quration — Quration AIQ