Ano ang tawag sa teknik na ito ng pagsasanay?

Ang knowledge distillation ay nagte-train sa isang mas maliit at mas mahusay na modelong "estudyante" upang gayahin ang mga output at pag-uugali ng isang mas malaki at mas mahusay na modelong "guro," na epektibong inilipat ang malaking bahagi ng natutunang kasanayan ng guro sa isang compact na anyo. Natutunan ng estudyante mula sa mga sagot ng guro sa maraming halimbawa, na sinisipsip ang mga pattern ng pangangatwiran at istilo na mas mahal pa sanang matutunan mula sa wala, na nagpapahintulot sa mga kumpanya na maglabas ng mabilis at murang kasangkapan na nagpapatuloy pa ring gumana nang kahanga-hanga sa kabila ng maliit na sukat nito.

Ang encryption ay isang teknik sa seguridad na nagbubulgar sa datos upang ang mga awtorisadong partido lamang ang makakabasa nito, isang ganap na ibang konsepto sa paglipat ng kasanayan sa pagitan ng mga modelo. Ang overclocking ay nangangahulugang pinapatakbo ang hardware nang mas mabilis kaysa sa standard na setting nito upang paigtingin ang performance, isang trick sa hardware na walang kaugnayan sa kung paano na-train ang isang modelo.

Isa itong pangunahing dahilan kung bakit maraming mabilis at murang AI chatbot na available ngayon ay nagpapatuloy pa ring gumana nang kahanga-hanga sa mga pang-araw-araw na gawain, dahil epektibo nilang minana ang natukso na kaalaman mula sa mas malaki at mas mahal na modelo na hindi praktikal patakbuhin nang direkta para sa bawat kahilingan ng gumagamit.