Quration Play

tech

HBM ist der bevorzugte Speicher für Spitzen-KI-Beschleuniger und wird nur von wenigen Herstellern wie SK Hynix, Samsung und Micron gefertigt.

Wie erreicht High Bandwidth Memory (HBM) seine enorme Bandbreite?

Durch vertikales Stapeln der Speicherchips
HBM stapelt mehrere DRAM-Dies übereinander und verbindet sie mit Through-Silicon-Vias (TSVs), wodurch ein sehr breiter Datenpfad nahe am Prozessor entsteht. Diese 3D-Stapelung liefert weit mehr Bandbreite als das flache Nebeneinanderlegen der Chips.

HBM erreicht seine enorme Bandbreite, indem mehrere Speicherchips vertikal übereinander gestapelt und mit winzigen vertikalen Leiterbahnen, sogenannten Through-Silicon-Vias, verbunden werden, wodurch ein extrem breiter, kurzer Datenpfad direkt neben dem Prozessor entsteht, statt Speicher flach über eine Platine zu verteilen.

Einen einzelnen Chip mit höherer Spannung zu betreiben würde die Leistungsaufnahme und Wärmeentwicklung erhöhen, aber nicht grundlegend ändern, wie viele Daten gleichzeitig bewegt werden können, es ist also nicht die Quelle von HBMs Bandbreitenvorteil. Chips über die Hauptplatine zu verteilen ist im Grunde der gegenteilige Ansatz, das traditionelle flache Layout, das HBM ersetzen sollte.

Weil HBMs 3D-Stapelung so komplex herzustellen ist, wird es derzeit nur von einer Handvoll Unternehmen weltweit produziert, was es zu einem der engsten Lieferengpässe im boomenden Markt für KI-Beschleunigerchips gemacht hat.

▶ Quration Play

tech

Warum teilen Chipdesigner einen großen Chip in mehrere kleinere "Chiplets" auf?Was zeichnet einen Gate-all-around-Transistor aus?Was ist das Hauptziel des US-amerikanischen CHIPS and Science Act?Was macht TSMC als reine Foundry eigentlich?Wie heißt der hauseigene Chip, den Google dafür entwickelt hat?Welche Methode setzen Rechenzentren zunehmend ein, um diese dichten KI-Racks vor Überhitzung zu schützen?Welches Unternehmen ist der einzige Hersteller dieser EUV-Lithografiemaschinen?Wie heißt dieser phishing-resistente, passwortlose Zugangsschlüssel, der auf deinem Gerät gespeichert wird?Wie heißt dieses Sicherheitsmodell?Wie heißt dieser Zweig der Kryptografie gemeinhin?Wie heißt diese Art von Angriff, der das Ziel über einen vertrauenswürdigen Lieferanten oder eine Abhängigkeit erreicht?Welcher Begriff beschreibt diesen Betrug, der per KI Gesicht oder Stimme einer echten Person klont?

Quration — Quration Play