tech

Kecenderungan sistem AI seperti ChatGPT atau Claude untuk dengan yakin menyajikan makalah, peristiwa, atau tokoh yang tidak wujud sebagai fakta sebenar dipanggil 'halusinasi', dan ia tidak pernah hilang sepenuhnya walaupun dengan lebih banyak data latihan.

Apakah punca strukturnya?

• Kerana model dilatih untuk meramal perkataan seterusnya yang paling berkemungkinan dari segi statistik, tanpa mekanisme berasingan untuk mengesahkan sama ada sesuatu pernyataan itu benar-benar betul ✓
• Kerana jumlah keseluruhan data latihan masih tidak mencukupi, menyebabkan model mengisi kekosongan dengan kandungan rekaan
• Kerana model tiada sambungan internet masa nyata dan oleh itu tiada akses kepada maklumat semasa

Quration — Quration Play