Ano ang matinong tuntunin para pumili sa pagitan ng regular na models at mas mahal na reasoning models sa trabaho?

Ang matinong tuntunin ay ang pagtutugma ng antas ng modelo sa hirap ng gawain: maayos na tumatakbo ang pang-araw-araw na pagbubuod, pagdadrap, at mabilis na paghahanap sa isang regular na mabilis na modelo, samantalang ang mga talagang mahirap na problema — multi-step na matematika, desisyon sa arkitektura ng sistema, kumplikadong pagsusuri — ay nakikinabang sa isang mas mabagal na reasoning model na gumugugol ng mas maraming computation sa pag-iisip ng problema bago sumagot, dahilan din kung bakit mas mahal ang gamitin ang mga reasoning model kada-gamit.

Ang pagpapalagay na palaging superyor ang mas mahal na opsyon ay hindi isinasaalang-alang na tunay na kompromiso ang bilis at gastos para sa mga simpleng gawain, at walang kinalaman sa aktwal na pangangailangan ng gawain ang pagpapalit-palit ng modelo depende sa araw ng linggo.

Ang paghahati na ito ay sumasalamin sa isang mas malawak na desisyon sa disenyo na napagkasunduan ng mga kompanya ng AI: sa halip na isang modelong sinusubukang maging mabilis at malalim ang pag-iisip nang sabay-sabay, nag-aalok sila ng mabilis na default at isang opsyonal na 'mas malalim na mag-isip' na mode na tinatawag mo lamang kapag kailangan ng problema.