Welche Speichertechnologie steht im Zentrum dieser NVIDIA-SK-hynix-Partnerschaft?

HBM4, also High Bandwidth Memory, steht im Mittelpunkt der Partnerschaft zwischen NVIDIA und SK hynix. HBM4 funktioniert, indem mehrere DRAM-Speicherchips vertikal gestapelt und über extrem kurze, breite Verbindungen miteinander verbunden werden, sodass Daten viel schneller zu einer GPU fließen können als bei flach auf einer Platine angeordneten Speicherchips – das ist enorm wichtig für das Training und den Betrieb der heutigen größten KI-Modelle.

DDR6 ist ein Speicherstandard der nächsten Generation für gewöhnliche Computer, nicht für spezialisierte KI-Beschleuniger, und GDDR7 ist vor allem für Grafikkarten zum Rendern von Videospielen gedacht. Keines der beiden ist für die extremen Bandbreitenanforderungen massiver KI-Trainingshardware ausgelegt, wie es bei HBM4 der Fall ist.

Nicht die reine Rechenleistung, sondern oft die Speicherbandbreite ist heute der eigentliche Flaschenhals bei KI-Hardware, denn die Berechnungen eines Chips nützen nichts, wenn die Daten nicht schnell genug zu ihm gelangen – genau dieses Problem soll gestapelter Speicher wie HBM lösen.