tech

Xu hướng các hệ thống AI như ChatGPT hay Claude tự tin trình bày những bài báo, sự kiện hoặc nhân vật không tồn tại như thể là sự thật được gọi là 'ảo giác' (hallucination). Ngay cả với nhiều dữ liệu huấn luyện hơn, hiện tượng này cũng không bao giờ biến mất hoàn toàn.

Nguyên nhân mang tính cấu trúc của nó là gì?

Vì các mô hình được huấn luyện để dự đoán từ tiếp theo có xác suất cao nhất về mặt thống kê, không có cơ chế riêng để kiểm chứng một phát biểu có thật sự đúng hay không ✓
Vì tổng lượng dữ liệu huấn luyện vẫn chưa đủ, khiến mô hình lấp chỗ trống bằng nội dung bịa đặt
Vì mô hình không có kết nối internet thời gian thực nên thiếu khả năng truy cập thông tin hiện tại

Vì các mô hình được huấn luyện để dự đoán từ tiếp theo có xác suất cao nhất về mặt thống kê, không có cơ chế riêng để kiểm chứng một phát biểu có thật sự đúng hay không
LLM là một cỗ máy xác suất tạo ra văn bản nghe hợp lý — nó không phải hệ thống truy vấn và đối chiếu một cơ sở dữ liệu sự thật.

▶ Quration Play

tech

Con chip này của Microsoft có tên là gì?Mô hình này được gọi là gì?Cái nào được phát minh trước — máy fax hay điện thoại?Ai được nhiều người xem là lập trình viên máy tính đầu tiên trên thế giới?"http" ở đầu một địa chỉ web là viết tắt của cụm từ nào?"Wi-Fi" thật ra là viết tắt của cái gì?Trang web đầu tiên đó nói về điều gì?Một thiết bị GPS cần bao nhiêu vệ tinh để xác định vị trí của bạn?Thông điệp đầu tiên từng được gửi qua internet sơ khai năm 1969 là gì?Vì sao thư rác được gọi là "spam"?"Bug" máy tính đầu tiên theo nghĩa đen là gì?"Cookie" khi duyệt web là gì?

Quration — Quration Play