Dlaczego GPU są tak ważne dla współczesnej SI?

GPU, czyli procesory graficzne, pierwotnie projektowano do renderowania złożonej grafiki 3D w grach wideo – zadania wymagającego wykonywania ogromnej liczby prostych obliczeń matematycznych jednocześnie na milionach pikseli. Okazało się, że trenowanie modeli AI wymaga bardzo podobnego rodzaju pracy: ogromnych ilości równoległego mnożenia macierzy, więc badacze zdali sobie sprawę, że GPU mogą trenować sieci neuronowe znacznie szybciej niż tradycyjne procesory zaprojektowane do wykonywania zadań jedno po drugim.

Przechowywanie plików to zadanie dysków twardych lub dysków SSD, a nie GPU, które są wyspecjalizowane w obliczeniach, a nie w przechowywaniu danych. Chłodzenie komputerów zapewniają wentylatory i radiatory, i choć GPU faktycznie generują sporo ciepła podczas intensywnej pracy, chłodzenie nie jest ich funkcją.

To nieoczekiwane przejście z sprzętu do gier do AI okazało się na tyle istotne, że popyt ze strony firm zajmujących się AI czasem powodował niedobory i skoki cen GPU, na których polegają też sami gracze korzystający z konsol i komputerów.