basics

Numa conversa longa, a IA pode parecer esquecer o que você disse no início. Isso acontece porque existe um limite rígido de quanto texto o modelo consegue manter e processar de uma vez.

Como se chama esse limite?

Q: Como se chama esse limite?

Janela de contexto. A janela de contexto é o limite de tokens que um modelo consegue lidar de uma vez. O GPT-3 original suportava cerca de 2 mil; os modelos atuais chegam a centenas de milhares ou até milhões.

Cartão de memória
Janela de contexto ✓
Armazenamento em cache

Janela de contexto
A janela de contexto é o limite de tokens que um modelo consegue lidar de uma vez. O GPT-3 original suportava cerca de 2 mil; os modelos atuais chegam a centenas de milhares ou até milhões.

▶ Quration AIQ

basics

O Llama, o carro-chefe desses modelos 'de peso aberto', foi lançado por qual empresa?Como chamamos os modelos que lidam com múltiplas formas de entrada e saída?O que esses 'modelos de raciocínio' fazem durante essa pausa?Como se chama essa abordagem?Essa técnica toma seu nome do refino de destilados. Qual é?Qual é uma das principais respostas da indústria?Como se chama essa regra empírica — a justificativa para apostas bilionárias?Qual é a sigla do objetivo além da IA específica para tarefas — uma inteligência tão geral quanto a humana?Como se chamam?Qual é o termo abrangente?Como esses pedaços são chamados?Quando dizem que um modelo de IA tem '70 bilhões de parâmetros', o que exatamente estão contando?

Quration — Quration AIQ