Mengapa GPU begitu penting untuk AI moden?

GPU, atau unit pemprosesan grafik, pada asalnya direka untuk merender grafik 3D yang kompleks untuk permainan video, satu tugas yang memerlukan pelaksanaan sejumlah besar pengiraan matematik ringkas secara serentak merentasi berjuta-juta piksel. Ternyata melatih model AI melibatkan jenis beban kerja yang sangat serupa: pendaraban matriks dalam jumlah besar yang dilakukan secara selari, jadi penyelidik menyedari GPU boleh melatih rangkaian neural jauh lebih pantas berbanding pemproses tradisional yang dibina untuk mengendalikan tugas secara berurutan satu demi satu.

Menyimpan fail adalah tugas cakera keras atau pemacu keadaan pepejal (SSD), bukan GPU, yang dikhususkan untuk pengiraan dan bukannya storan data. Menyejukkan komputer dikendalikan oleh kipas dan penyerap haba, dan walaupun GPU memang menjana haba yang ketara semasa penggunaan berat, penyejukan bukanlah fungsinya.

Peralihan tidak terduga daripada perkakasan permainan kepada AI ini telah begitu berkesan sehingga permintaan daripada syarikat AI kadangkala menyebabkan kekurangan bekalan dan lonjakan harga GPU yang turut bergantung kepada para peminat permainan untuk konsol dan komputer mereka.