Kanuni hii ya kutokana na uzoefu — sababu ya kuwekeza mabilioni ya dola — inaitwaje?

Sheria za upanuzi (scaling laws) ni mtindo wa kimajaribio ulio nyuma ya imani hii — mahusiano yaliyoonekana yanayoonyesha kwamba, hadi kiwango fulani, kuongeza ukubwa wa modeli, data yake ya mafunzo, na uwezo wa kukokotoa unaotumika hutoa maboresho yanayoweza kutabirika kwa kiasi cha utendaji, jambo lililowapa wawekezaji sababu ya kuwekeza kiasi kikubwa cha fedha katika mafunzo makubwa zaidi na zaidi.

Sheria ya Moore inaelezea mwelekeo wa kihistoria wa chip za kompyuta kuongeza mara mbili msongamano wa transistor kwa muda, na Sheria ya Murphy ni msemo wa kejeli kwamba chochote kinachoweza kwenda vibaya kitakwenda vibaya — hakuna inayoelezea uhusiano wa data-na-ukokotoaji kwa utendaji uliohalalisha uwekezaji mkubwa zaidi wa AI.

Hivi karibuni zaidi, umakini umehamia kwenye 'inference-time scaling' — ugunduzi kwamba kuruhusu modeli ifikirie kwa muda mrefu zaidi wakati wa kujibu, badala ya kufanya tu modeli kubwa zaidi wakati wa mafunzo, kunaweza pia kuongeza utendaji kwa kutegemewa — kukizua mjadala kama upanuzi wa jadi wa mafunzo ya awali unaingia katika mapato yanayopungua.