tech

ChatGPT veya Claude gibi yapay zekâ sistemlerinin var olmayan makaleleri, olayları veya kişileri gerçek bilgiymiş gibi kendinden emin biçimde sunma eğilimine 'halüsinasyon' denir. Daha fazla eğitim verisiyle bile bu olgu tamamen ortadan kalkmaz.

Yapısal nedeni nedir?

• Çünkü modeller, bir ifadenin gerçekten doğru olup olmadığını denetleyen ayrı bir mekanizma olmadan, istatistiksel olarak en olası sonraki kelimeyi tahmin etmek üzere eğitilir ✓
• Çünkü toplam eğitim verisi miktarı hâlâ yetersizdir ve bu da modelin boşlukları uydurma içerikle doldurmasına yol açar
• Çünkü modelin gerçek zamanlı bir internet bağlantısı yoktur ve bu yüzden güncel bilgilere erişimi yoktur

Quration — Quration Play