tech

Quand des systèmes d'IA comme ChatGPT ou Claude affirment avec assurance l'existence d'articles, d'événements ou de personnes fictifs, on parle d''hallucination' — un défaut que même davantage de données d'entraînement ne fait jamais totalement disparaître.

Quelle en est la cause structurelle ?

• Parce que les modèles sont entraînés à prédire le mot suivant le plus probable statistiquement, sans aucun mécanisme distinct pour vérifier si une affirmation est réellement vraie ✓
• Parce que le volume total de données d'entraînement est encore insuffisant, ce qui amène le modèle à combler les lacunes avec du contenu inventé
• Parce que le modèle n'a pas de connexion internet en temps réel et n'a donc pas accès aux informations actuelles

Quration — Quration Play