มีกฎอะไรที่สมเหตุสมผลในการเลือกใช้ระหว่างสองแบบนี้ในการทำงาน?

กฎที่สมเหตุสมผลคือการเลือกระดับโมเดลให้ตรงกับความยากของงาน งานประจำวันอย่างสรุปข้อมูล ร่างเอกสาร และค้นหาข้อมูลเร็ว ๆ ทำได้ดีด้วยโมเดลปกติที่รวดเร็ว ในขณะที่ปัญหาที่ยากจริง ๆ เช่นคณิตศาสตร์หลายขั้นตอน การตัดสินใจด้านสถาปัตยกรรมระบบ หรือการวิเคราะห์ซับซ้อน จะได้ประโยชน์จากโมเดลแบบให้เหตุผล (reasoning) ที่ช้ากว่า เพราะใช้การประมวลผลมากขึ้นในการคิดผ่านปัญหาก่อนตอบ ซึ่งเป็นเหตุผลที่โมเดลแบบให้เหตุผลมักมีราคาต่อการใช้งานสูงกว่าด้วย

การสันนิษฐานว่าตัวเลือกที่แพงกว่าดีกว่าเสมอ ละเลยข้อเท็จจริงที่ว่าความเร็วและต้นทุนเป็นสิ่งที่ต้องแลกกันจริงสำหรับงานง่าย ๆ ส่วนการสลับใช้โมเดลตามวันในสัปดาห์ก็ไม่มีอะไรเกี่ยวข้องกับสิ่งที่งานนั้นต้องการจริง ๆ

การแบ่งแบบนี้สะท้อนแนวทางการออกแบบที่บริษัท AI หลายแห่งบรรจบกัน แทนที่จะให้โมเดลเดียวพยายามทั้งเร็วและคิดลึกซึ้งพร้อมกัน พวกเขาจึงเสนอโหมดค่าเริ่มต้นที่รวดเร็ว และโหมดเสริม 'คิดหนักขึ้น' ที่คุณเรียกใช้เฉพาะเมื่อปัญหาคุ้มค่าที่จะทำเช่นนั้น