Quration Play

tech

La HBM est la mémoire préférée des meilleurs accélérateurs d'IA et n'est fabriquée que par quelques acteurs comme SK Hynix, Samsung et Micron.

Comment la mémoire à haute bande passante (HBM) atteint-elle son énorme débit ?

En empilant les puces mémoire à la verticale
La HBM empile plusieurs dies de DRAM les uns sur les autres et les relie par des vias traversant le silicium (TSV), créant un très large chemin de données près du processeur. Cet empilement 3D offre bien plus de bande passante que de poser les puces à plat côte à côte.

La HBM atteint son immense bande passante en empilant plusieurs puces mémoire les unes sur les autres à la verticale et en les reliant par de minuscules fils verticaux appelés « through-silicon vias », créant ainsi un chemin de données extrêmement large et court, situé juste à côté du processeur, plutôt que de disperser la mémoire à plat sur un circuit imprimé.

Faire fonctionner une seule puce à une tension plus élevée augmenterait la consommation d'énergie et la chaleur, sans changer fondamentalement la quantité de données pouvant circuler simultanément ; ce n'est donc pas la source de l'avantage de bande passante de la HBM. Répartir les puces sur la carte mère est en fait l'approche opposée, la disposition plate traditionnelle que la HBM a précisément été conçue pour remplacer.

Parce que l'empilement 3D de la HBM est si complexe à fabriquer, elle n'est actuellement produite que par une poignée d'entreprises dans le monde, ce qui en a fait l'un des goulots d'étranglement d'approvisionnement les plus critiques sur le marché en plein essor des puces d'accélération pour l'IA.

▶ Quration Play

tech

Pourquoi les concepteurs divisent-ils une grosse puce en plusieurs « chiplets » plus petits ?Qu'est-ce qui distingue un transistor gate-all-around ?Quel est l'objectif principal du CHIPS and Science Act américain ?En tant que pure fonderie, que fait réellement TSMC ?Comment s'appelle la puce maison que Google a conçue pour cela ?Quelle méthode les centres de données adoptent-ils de plus en plus pour éviter la surchauffe de ces racks d'IA très denses ?Quelle entreprise est l'unique fabricant de ces machines de lithographie EUV ?Comment s'appelle cet identifiant sans mot de passe, résistant au phishing, stocké sur votre appareil ?Comment s'appelle ce modèle de sécurité ?Comment appelle-t-on couramment cette branche de la cryptographie ?Comment appelle-t-on ce type d'attaque qui atteint sa cible via un fournisseur ou une dépendance de confiance ?Quel terme désigne cette arnaque qui utilise l'IA pour cloner le visage ou la voix d'une personne réelle ?

Quration — Quration Play