tech

ChatGPT किंवा Claude सारखे AI अस्तित्वात नसलेले शोधनिबंध, घटना किंवा व्यक्ती आत्मविश्वासाने खऱ्यासारखे सादर करू शकतात — याला 'भ्रम' (hallucination) म्हणतात.

अधिक प्रशिक्षण डेटा असूनही ही घटना पूर्णपणे नाहीशी होत नाही. याचे संरचनात्मक कारण काय आहे?

• कारण एखादे विधान खरोखर सत्य आहे का हे तपासणारी वेगळी यंत्रणा नसताना, सांख्यिकीयदृष्ट्या सर्वाधिक संभाव्य पुढचा शब्द ओळखण्यासाठी मॉडेल प्रशिक्षित केले जाते ✓
• कारण प्रशिक्षण डेटाचे एकूण प्रमाण अजूनही अपुरे आहे, त्यामुळे मॉडेल रिकाम्या जागा रचलेल्या मजकुराने भरते
• कारण मॉडेलकडे रिअल-टाइम इंटरनेट जोडणी नसते, म्हणून त्याला सध्याच्या माहितीचा प्रवेश नसतो

Quration — Quration Play