高頻寬記憶體（HBM）是如何達到龐大頻寬的？

高頻寬記憶體(HBM)達到驚人頻寬的方式,是將數顆記憶體晶片垂直堆疊在一起,再用稱為矽穿孔(through-silicon via)的微小垂直導線連接,在處理器旁邊打造出一條極寬、極短的資料通道,而不是將記憶體平鋪散布在電路板上。

讓單一晶片以更高電壓運作只會增加耗電與發熱,並不會從根本上改變單位時間內能傳輸的資料量,因此這並非HBM頻寬優勢的來源。將晶片分散配置在主機板上其實正是相反的做法,是HBM設計初衷所要取代的傳統平面配置方式。

由於HBM這種3D堆疊技術製造起來相當複雜,目前全球只有少數幾家公司能夠生產,這也使它成為蓬勃發展的AI加速晶片市場中供應最為緊繃的瓶頸之一。