basics

A IA às vezes inventa, com total confiança, casos judiciais ou artigos que não existem — nos EUA, advogados já foram punidos por apresentar em tribunal citações fabricadas assim.

Como se chama esse fenômeno?

Q: Como se chama esse fenômeno?

Alucinação. Alucinação é quando um modelo gera com confiança algo que não é verdade. É uma característica estrutural dos LLMs, que funcionam prevendo 'as próximas palavras mais plausíveis'.

Overfitting (sobreajuste)
Alucinação ✓
Deepfake

Alucinação
Alucinação é quando um modelo gera com confiança algo que não é verdade. É uma característica estrutural dos LLMs, que funcionam prevendo 'as próximas palavras mais plausíveis'.

▶ Quration AIQ

basics

Qual era o nome?Como se chama essa etapa de treinamento com feedback humano?Como se chama esse limite?O Llama, o carro-chefe desses modelos 'de peso aberto', foi lançado por qual empresa?Como chamamos os modelos que lidam com múltiplas formas de entrada e saída?O que esses 'modelos de raciocínio' fazem durante essa pausa?Como se chama essa abordagem?Essa técnica toma seu nome do refino de destilados. Qual é?Qual é uma das principais respostas da indústria?Como se chama essa regra empírica — a justificativa para apostas bilionárias?Qual é a sigla do objetivo além da IA específica para tarefas — uma inteligência tão geral quanto a humana?Como se chamam?

Quration — Quration AIQ