Quration Play

tech

Cuando sistemas de IA como ChatGPT o Claude presentan con total seguridad artículos, sucesos o personas inexistentes como si fueran reales, hablamos de 'alucinación', un fallo que ni siquiera más datos de entrenamiento logran eliminar del todo.

¿Cuál es su causa estructural?

Porque los modelos se entrenan para predecir la siguiente palabra estadísticamente más probable, sin ningún mecanismo independiente que verifique si una afirmación es realmente cierta ✓
Porque el volumen total de datos de entrenamiento aún es insuficiente, lo que lleva al modelo a rellenar los vacíos con contenido inventado
Porque el modelo no tiene conexión a internet en tiempo real y por tanto carece de acceso a información actual

Porque los modelos se entrenan para predecir la siguiente palabra estadísticamente más probable, sin ningún mecanismo independiente que verifique si una afirmación es realmente cierta
Un LLM es un motor de probabilidad que genera texto que suena plausible: no es un sistema que consulte y contraste una base de datos de hechos.

▶ Quration Play

tech

¿Cómo se llama este chip de Microsoft?¿Cómo se llama este modelo?¿Qué se inventó primero: el fax o el teléfono?¿A quién se considera ampliamente la primera persona programadora del mundo?¿Qué significa el "http" al principio de una dirección web?¿Qué significa en realidad "Wi-Fi"?¿Sobre qué trataba aquel primer sitio web?¿Cuántos satélites necesita un dispositivo GPS para ubicarte con precisión?¿Cuál fue el primerísimo mensaje enviado por la internet primitiva en 1969?¿Por qué el correo basura se llama "spam"?¿Qué fue, literalmente, el primer "bug" informático?¿Qué es una "cookie" al navegar por internet?

Quration — Quration Play