Por que as GPUs são tão importantes para a IA moderna?

GPUs, ou unidades de processamento gráfico, foram originalmente projetadas para renderizar gráficos 3D complexos em videogames, uma tarefa que exige realizar enormes quantidades de cálculos matemáticos simples simultaneamente em milhões de pixels. Descobriu-se que treinar modelos de IA envolve um tipo de carga de trabalho extremamente semelhante: enormes quantidades de multiplicação de matrizes feitas em paralelo, então pesquisadores perceberam que as GPUs podiam treinar redes neurais muito mais rápido do que processadores tradicionais feitos para lidar com tarefas uma de cada vez.

Armazenar arquivos é função de discos rígidos ou SSDs, não das GPUs, que são especializadas em cálculo, não em armazenamento de dados. Manter os computadores refrigerados é tarefa de ventoinhas e dissipadores de calor, e embora as GPUs de fato gerem calor significativo sob uso intenso, refrigeração não é sua função.

Essa migração inesperada do hardware de games para a IA foi tão significativa que a demanda de empresas de IA, em certos momentos, chegou a causar escassez e disparadas de preço em GPUs das quais os próprios gamers também dependem para seus consoles e PCs.