tech

แนวโน้มที่ระบบ AI อย่าง ChatGPT หรือ Claude นำเสนอเอกสาร เหตุการณ์ หรือบุคคลที่ไม่มีอยู่จริงอย่างมั่นใจราวกับเป็นข้อเท็จจริง เรียกว่า 'อาการหลอน' (hallucination) แม้จะมีข้อมูลฝึกฝนมากขึ้น ปรากฏการณ์นี้ก็ไม่เคยหายไปอย่างสมบูรณ์

สาเหตุเชิงโครงสร้างคืออะไร?

• เพราะโมเดลถูกฝึกให้ทำนายคำถัดไปที่น่าจะเป็นไปได้มากที่สุดทางสถิติ โดยไม่มีกลไกแยกต่างหากที่ตรวจสอบว่าข้อความนั้นเป็นจริงหรือไม่ ✓
• เพราะปริมาณข้อมูลฝึกฝนโดยรวมยังไม่เพียงพอ ทำให้โมเดลเติมช่องว่างด้วยเนื้อหาที่กุขึ้น
• เพราะโมเดลไม่มีการเชื่อมต่ออินเทอร์เน็ตแบบเรียลไทม์ จึงเข้าถึงข้อมูลปัจจุบันไม่ได้

Quration — Quration Play