Quration AIQ

basics

โมเดลภาษาอย่าง ChatGPT ไม่ได้อ่านประโยคทั้งประโยคทีเดียว แต่จะสับข้อความออกเป็นชิ้นเล็ก ๆ ก่อนประมวลผล — และข้อความภาษาไทยก็ถูกตัดเป็นชิ้นมากกว่าภาษาอังกฤษ ทำให้เนื้อความเดียวกัน 'แพงกว่า' ในการประมวลผล

ชิ้นเล็ก ๆ เหล่านี้เรียกว่าอะไร?

โทเคน (Tokens)
LLM ประมวลผลข้อความในหน่วยที่เรียกว่าโทเคน ภาษาที่ไม่ใช่ภาษาอังกฤษมักใช้โทเคนมากกว่าในการสื่อความหมายเดียวกัน ทำให้เสียเปรียบทั้งเรื่องค่าบริการ API และขีดจำกัดของคอนเท็กซ์
▶ Quration AIQ

basics

เมื่อพูดถึงโมเดล AI ที่มี 'พารามิเตอร์ 7 หมื่นล้านตัว' นั่นคือการนับอะไร?ปรากฏการณ์นี้เรียกว่าอะไร?ชื่อว่าอะไร?ขั้นตอนการฝึกด้วยฟีดแบ็กของมนุษย์นี้เรียกว่าอะไร?ขีดจำกัดนี้เรียกว่าอะไร?Llama โมเดลเรือธงของกลุ่ม 'open-weight' นี้ ถูกปล่อยออกมาโดยบริษัทไหน?เราเรียกโมเดลที่รับ-ส่งข้อมูลได้หลายรูปแบบเช่นนี้ว่าอะไร?'โมเดลแนวเหตุผล' เหล่านี้ทำอะไรระหว่างที่หยุดคิดนั้น?วิธีนี้เรียกว่าอะไร?เทคนิคนี้ที่ยืมชื่อมาจากการกลั่นเหล้า เรียกว่าอะไร?หนึ่งในทางแก้หลักของอุตสาหกรรมคือข้อใด?กฎเชิงประจักษ์นี้ที่เป็นเหตุผลรองรับการลงทุนระดับพันล้านดอลลาร์เรียกว่าอะไร?

Quration — Quration AIQ