Perché le GPU sono così importanti per l'IA moderna?

Le GPU, o unità di elaborazione grafica, furono originariamente progettate per rendere complesse grafiche 3D nei videogiochi, un compito che richiede di eseguire simultaneamente enormi quantità di semplici calcoli matematici su milioni di pixel. Si è scoperto che l'addestramento dei modelli di IA comporta un carico di lavoro molto simile: enormi quantità di moltiplicazioni tra matrici eseguite in parallelo, così i ricercatori si sono resi conto che le GPU potevano addestrare le reti neurali molto più velocemente dei processori tradizionali costruiti per svolgere i compiti uno dopo l'altro.

L'archiviazione dei file è compito degli hard disk o delle unità a stato solido, non delle GPU, che sono specializzate nel calcolo e non nell'archiviazione dei dati. Il raffreddamento dei computer è gestito da ventole e dissipatori di calore, e sebbene le GPU generino effettivamente calore notevole durante un uso intenso, il raffreddamento non è la loro funzione.

Questo passaggio inatteso dall'hardware da gioco all'IA è stato così rilevante che la domanda proveniente dalle aziende di IA ha, in certi periodi, causato carenze e impennate dei prezzi delle GPU su cui fanno affidamento anche i videogiocatori per le loro console e i loro PC.