Pourquoi les GPU sont-ils si importants pour l'IA moderne ?

Les GPU, ou processeurs graphiques, ont été conçus à l'origine pour restituer des graphismes 3D complexes dans les jeux vidéo, une tâche qui exige d'effectuer simultanément un très grand nombre de calculs mathématiques simples sur des millions de pixels. Il s'avère que l'entraînement des modèles d'IA implique une charge de travail extrêmement similaire : d'immenses quantités de multiplications matricielles effectuées en parallèle, si bien que les chercheurs ont réalisé que les GPU pouvaient entraîner des réseaux de neurones bien plus vite que les processeurs classiques, conçus pour traiter les tâches les unes après les autres.

Le stockage de fichiers est le rôle des disques durs ou des disques SSD, pas des GPU, spécialisés dans le calcul plutôt que dans le stockage de données. Le refroidissement des ordinateurs est assuré par les ventilateurs et les dissipateurs thermiques, et si les GPU génèrent effectivement beaucoup de chaleur en usage intensif, le refroidissement n'est pas leur fonction.

Ce basculement inattendu du matériel de jeu vers l'IA a eu un tel impact que la demande des entreprises d'IA a parfois provoqué des pénuries et des flambées de prix sur des GPU dont dépendent aussi les joueurs pour leurs consoles et leurs PC.