¿Qué tecnología de memoria está en el centro de esta asociación entre NVIDIA y SK hynix?

La HBM4, o memoria de alto ancho de banda, es el centro de la alianza entre NVIDIA y SK hynix. La HBM4 funciona apilando varios chips de memoria DRAM en vertical y conectándolos con rutas extremadamente cortas y anchas, lo que permite que los datos lleguen a una GPU mucho más rápido que con chips de memoria dispuestos en plano sobre una placa de circuito, algo que importa enormemente para entrenar y ejecutar los modelos de IA más grandes de hoy.

La DDR6 es un estándar de memoria de próxima generación pensado para computadoras generales, no para aceleradores de IA especializados, y la GDDR7 está diseñada principalmente para tarjetas gráficas que procesan videojuegos. Ninguna de las dos está construida para las exigencias extremas de ancho de banda del hardware masivo de entrenamiento de IA como sí lo está la HBM4.

El ancho de banda de memoria, y no la potencia de procesamiento bruta, suele ser hoy el verdadero cuello de botella en el hardware de IA, ya que los cálculos de un chip son inútiles si los datos no pueden llegar a él con la rapidez suficiente, que es exactamente el problema que la memoria apilada como la HBM está diseñada para resolver.