Quration AIQ

basics

Các mô hình ngôn ngữ như ChatGPT không đọc nguyên cả câu. Chúng xử lý văn bản bị chia nhỏ thành từng mảnh — và tiếng Việt (hay tiếng Hàn) thường bị chia thành nhiều mảnh hơn tiếng Anh, khiến cùng một đoạn văn trở nên 'đắt đỏ' hơn khi xử lý.

Những mảnh nhỏ này được gọi là gì?

Token
LLM xử lý văn bản dưới dạng token. Các ngôn ngữ không dùng chữ Latin thường tốn nhiều token hơn tiếng Anh để diễn đạt cùng một ý, khiến chúng bị bất lợi về giá API và giới hạn ngữ cảnh.
▶ Quration AIQ

basics

Khi người ta nói một mô hình AI có '70 tỷ tham số', họ đang đếm cái gì?Hiện tượng này được gọi là gì?Bài báo đó tên gì?Bước huấn luyện dựa trên phản hồi con người này gọi là gì?Giới hạn này được gọi là gì?Llama, mô hình tiên phong của trào lưu 'open-weight' này, được công ty nào phát hành?Chúng ta gọi những mô hình xử lý nhiều dạng đầu vào và đầu ra như vậy là gì?Những 'mô hình suy luận' này đang làm gì trong khoảng dừng đó?Cách tiếp cận này gọi là gì?Nó gọi là gì?Một trong những phản ứng chính của ngành là gì?Quy tắc thực nghiệm này — cơ sở cho những khoản đầu tư hàng tỷ đô — được gọi là gì?

Quration — Quration AIQ