Jaka technologia pamięci jest w centrum tego partnerstwa NVIDIA-SK hynix?

W centrum partnerstwa NVIDIA-SK hynix znajduje się HBM4, czyli pamięć o wysokiej przepustowości (high-bandwidth memory). HBM4 działa poprzez pionowe ułożenie wielu kości pamięci DRAM i połączenie ich niezwykle krótkimi, szerokimi ścieżkami, dzięki czemu dane docierają do procesora graficznego znacznie szybciej niż w przypadku pamięci ułożonej płasko na płytce – co ma ogromne znaczenie przy trenowaniu i uruchamianiu dzisiejszych największych modeli AI.

DDR6 to standard pamięci nowej generacji przeznaczony do komputerów ogólnego zastosowania, a nie do specjalistycznych akceleratorów AI, natomiast GDDR7 jest zaprojektowany głównie z myślą o kartach graficznych obsługujących renderowanie gier wideo. Żaden z tych standardów nie jest tworzony pod ekstremalne wymagania przepustowości sprzętu do trenowania AI na masową skalę, tak jak HBM4.

Przepustowość pamięci, a nie sama moc obliczeniowa, jest dziś często rzeczywistym wąskim gardłem sprzętu AI, ponieważ obliczenia chipu są bezużyteczne, jeśli dane nie mogą do niego dotrzeć wystarczająco szybko – dokładnie ten problem ma rozwiązać ułożona warstwowo pamięć taka jak HBM.