tech
โมเดล AI เก็บความรู้ของมันเป็นตัวเลขนับพันล้านตัว และการลดความละเอียดในการจัดเก็บตัวเลขแต่ละตัวสามารถทำให้โมเดลรันได้เบาลงมาก
การควอนไทเซชัน (quantization) ลดความละเอียดที่ใช้จัดเก็บตัวเลขแต่ละตัวในหลายพันล้านตัว เรียกว่าพารามิเตอร์ ที่ประกอบขึ้นเป็นความรู้ของโมเดล AI ตัวอย่างเช่น การแปลงตัวเลขที่จัดเก็บด้วยความละเอียด 16 บิตให้เหลือเพียง 4 หรือ 8 บิต เนื่องจากตัวเลขแต่ละตัวจะใช้หน่วยความจำและการประมวลผลน้อยลง โมเดลจึงมีขนาดเล็กลงและรันได้เร็วขึ้น มักทำให้สามารถใส่โมเดลที่มีความสามารถลงในฮาร์ดแวร์ทั่วไปอย่างแล็ปท็อปหรือโทรศัพท์แทนที่จะต้องใช้เซิร์ฟเวอร์เฉพาะทาง
การบัฟเฟอร์หมายถึงการจัดเก็บข้อมูลชั่วคราว มักเป็นเสียงหรือวิดีโอ เพื่อให้เล่นได้อย่างราบรื่น ซึ่งเป็นแนวคิดที่ต่างจากการลดความละเอียดของตัวเลขในโมเดล การจัดทำดัชนีหมายถึงการจัดระเบียบข้อมูล เช่นในฐานข้อมูล เพื่อให้ค้นหาได้อย่างรวดเร็ว ไม่เกี่ยวข้องกับการลดขนาดการจัดเก็บตัวเลขของโมเดล
เมื่อทำอย่างระมัดระวัง การควอนไทเซชันสามารถลดขนาดของโมเดลได้อย่างมากในขณะที่แทบไม่ส่งผลต่อความแม่นยำเลย นี่คือเหตุผลที่มันกลายเป็นเทคนิคสำคัญที่ทำให้ AI ที่ทรงพลังอย่างน่าประหลาดใจสามารถรันบนอุปกรณ์ผู้บริโภคทั่วไปแทนที่จะรันได้เฉพาะในศูนย์ข้อมูลขนาดใหญ่เท่านั้น
tech
โมเดล AI ที่จัดการอินพุตหลายประเภทพร้อมกันเรียกว่าอะไร?บริษัทใดให้บริการโรโบแท็กซีเชิงพาณิชย์ไร้คนขับเต็มรูปแบบนี้?ในมาตรา SAE ที่รู้จักกันดี ตัวเลขระดับสูงสุดที่แทนการขับเคลื่อนอัตโนมัติเต็มรูปแบบคือเท่าใด?หุ่นยนต์ฮิวแมนนอยด์ที่เปิดตัวโดยผู้ผลิตรถยนต์เทสลามีชื่อว่าอะไร?บริษัทใดเป็นผู้บุกเบิกบริการส่งเวชภัณฑ์ด้วยโดรนนี้ในแอฟริกา?หุ่นยนต์คลังสินค้าของ Amazon เกิดจากการซื้อกิจการผู้ผลิตหุ่นยนต์รายใดในปี 2012?หุ่นยนต์ผ่าตัดที่ใช้กันแพร่หลายซึ่งผลิตโดย Intuitive Surgical มีชื่อว่าอะไร?ประโยชน์หลักที่เกษตรกรได้รับจากหุ่นยนต์กำจัดวัชพืชด้วยเลเซอร์เหล่านี้คืออะไร?เทคโนโลยีวัดระยะด้วยเลเซอร์นี้มีชื่อเรียกทั่วไปว่าอะไร?หุ่นยนต์ที่ออกแบบมาให้ใช้พื้นที่ทำงานร่วมกับมนุษย์เหล่านี้เรียกทั่วไปว่าอะไร?เซนเซอร์ชนิดใดที่ให้หุ่นยนต์มีประสาทสัมผัสและความรู้สึกถึงแรงกดในการจับนี้?เครื่องพิมพ์ลายแสง EUV สร้างแสงอัลตราไวโอเลตสุดขั้วนี้ขึ้นมาได้อย่างไรกันแน่?Quration — Quration Play