Quration Play

tech

De neiging van AI-systemen zoals ChatGPT of Claude om niet-bestaande artikelen, gebeurtenissen of personen vol overtuiging als echte feiten te presenteren, heet 'hallucinatie'. Zelfs met meer trainingsdata verdwijnt dit verschijnsel nooit helemaal.

Wat is de structurele oorzaak ervan?

Omdat modellen worden getraind om het statistisch meest waarschijnlijke volgende woord te voorspellen, zonder apart mechanisme om te controleren of een bewering daadwerkelijk waar is ✓
Omdat de totale hoeveelheid trainingsdata nog onvoldoende is, waardoor het model gaten opvult met verzonnen inhoud
Omdat het model geen realtime internetverbinding heeft en dus geen toegang tot actuele informatie

Omdat modellen worden getraind om het statistisch meest waarschijnlijke volgende woord te voorspellen, zonder apart mechanisme om te controleren of een bewering daadwerkelijk waar is
Een LLM is een waarschijnlijkheidsmachine die plausibel klinkende tekst genereert — het is geen systeem dat een feitendatabank raadpleegt en controleert.

▶ Quration Play

tech

Hoe heet deze Microsoft-chip?Hoe heet dit model?Wat werd het eerst uitgevonden — het faxapparaat of de telefoon?Wie wordt algemeen beschouwd als 's werelds eerste computerprogrammeur?Waar staat de "http" aan het begin van een webadres voor?Waar staat "Wi-Fi" eigenlijk voor?Waarover ging die eerste website?Hoeveel satellieten heeft een GPS-apparaat nodig om je locatie precies te bepalen?Wat was het allereerste bericht dat in 1969 over het vroege internet werd verstuurd?Waarom heet ongewenste e-mail "spam"?Wat was de allereerste computer-"bug" letterlijk?Wat is een "cookie" bij het surfen op het web?

Quration — Quration Play