tech

تميل أنظمة الذكاء الاصطناعي مثل ChatGPT وClaude إلى تقديم أوراق بحثية أو أحداث أو أشخاص غير موجودين بثقة تامة وكأنهم حقائق، وهو خلل يُعرف باسم 'الهلوسة'.

وحتى مع مزيد من بيانات التدريب، لا تختفي هذه الظاهرة تماماً — فما سببها البنيوي؟

• لأن النماذج مُدرَّبة على التنبؤ بالكلمة التالية الأرجح إحصائياً، دون آلية منفصلة للتحقق مما إذا كانت العبارة صحيحة فعلاً ✓
• لأن الحجم الإجمالي لبيانات التدريب لا يزال غير كافٍ، مما يدفع النموذج إلى ملء الفجوات بمحتوى مُختلَق
• لأن النموذج لا يملك اتصالاً بالإنترنت في الوقت الفعلي، ومن ثم يفتقر إلى الوصول إلى المعلومات الحالية

Quration — Quration Play