tech
HBM은 최고급 AI 가속기에 쓰이는 메모리로, SK하이닉스·삼성·마이크론 등 소수 업체만 만든다.
HBM은 여러 메모리 칩을 수직으로 쌓아 올리고 실리콘관통전극(TSV)이라 불리는 미세한 수직 배선으로 연결함으로써 막대한 대역폭을 확보합니다. 메모리를 회로기판에 평평하게 넓게 배치하는 대신 프로세서 바로 옆에 극도로 넓고 짧은 데이터 통로를 만드는 방식입니다.
단일 칩의 전압을 높이면 전력 소모와 발열만 늘어날 뿐, 한 번에 이동시킬 수 있는 데이터양을 근본적으로 바꾸지는 못하므로 HBM 대역폭 우위의 원인이 아닙니다. 칩을 메인보드 전체에 넓게 배치하는 것은 사실상 반대되는 접근으로, HBM이 대체하고자 했던 전통적인 평면 배치 방식입니다.
HBM의 3차원 적층 방식은 제조가 워낙 복잡해서 현재 전 세계에서 극소수 회사만 생산하고 있으며, 이는 호황을 맞은 AI 가속기 칩 시장에서 가장 심각한 공급 병목 중 하나가 되었습니다.
tech
칩 설계자들은 왜 큰 칩을 여러 개의 작은 '칩렛'으로 나눌까?게이트올어라운드 트랜지스터의 특징은 무엇일까요?미국 칩스법(CHIPS and Science Act)의 핵심 목표는 무엇일까요?순수 파운드리인 TSMC는 실제로 무슨 일을 할까요?이 목적을 위해 구글이 자체 설계한 칩의 이름은 무엇일까요?데이터센터가 이렇게 밀집된 AI 랙의 과열을 막기 위해 점점 더 많이 쓰는 방식은?이 EUV 노광 장비를 유일하게 만드는 회사는?기기에 저장되는 이 피싱 방지형 비밀번호 없는 인증 수단을 무엇이라고 부를까?이 보안 모델을 무엇이라고 부를까?이 암호학 분야를 흔히 무엇이라고 부를까?신뢰받는 공급업체나 의존성을 통해 표적에 도달하는 이런 공격을 무엇이라고 부를까?실존 인물의 얼굴이나 목소리를 AI로 복제해 사칭하는 이 사기를 무엇이라고 부를까?Quration — Quration Play