tech

Sistem AI seperti ChatGPT bisa dengan percaya diri menyajikan makalah, peristiwa, atau tokoh yang sebenarnya tidak ada sebagai sesuatu yang nyata — kegagalan yang dikenal sebagai 'halusinasi'.

Apa penyebab strukturalnya sehingga fenomena ini tak pernah benar-benar hilang meski data pelatihan makin banyak?

• Karena model dilatih untuk memprediksi kata berikutnya yang paling mungkin secara statistik, tanpa mekanisme terpisah untuk memverifikasi apakah sebuah pernyataan benar-benar benar ✓
• Karena total volume data pelatihan masih kurang, sehingga model mengisi kekosongan dengan konten yang dikarang
• Karena model tidak memiliki koneksi internet waktu nyata sehingga tidak punya akses ke informasi terkini

Quration — Quration Play