Waarom zijn GPU's zo belangrijk voor moderne AI?

GPU's, of grafische verwerkingseenheden, waren oorspronkelijk ontworpen om complexe 3D-graphics voor videogames te renderen, een taak die vereist dat enorme aantallen eenvoudige wiskundige berekeningen tegelijkertijd worden uitgevoerd over miljoenen pixels. Het blijkt dat het trainen van AI-modellen een zeer vergelijkbare soort werklast met zich meebrengt: massale hoeveelheden matrixvermenigvuldiging parallel uitgevoerd, waardoor onderzoekers beseften dat GPU's neurale netwerken veel sneller konden trainen dan traditionele processoren die gebouwd zijn om taken één voor één af te handelen.

Bestanden opslaan is de taak van harde schijven of ssd's, niet van GPU's, die gespecialiseerd zijn in berekenen in plaats van gegevensopslag. Computers koel houden wordt gedaan door ventilatoren en koelribben, en hoewel GPU's tijdens zwaar gebruik aanzienlijke warmte genereren, is koelen niet hun functie.

Deze onverwachte overstap van gaminghardware naar AI is zo ingrijpend geweest dat de vraag vanuit AI-bedrijven soms tekorten en prijspieken heeft veroorzaakt in GPU's waar ook gamers zelf op leunen voor hun consoles en pc's.