Seize mois après l’annonce initiale de la mémoire HBM3, dix mois après le démarrage de sa production de masse, SK hynix développe les premiers modules de ce type d’une capacité de 24 gigaoctets. Les premiers échantillons ont été envoyés à ses clients.
La mémoire HBM3 est la quatrième génération, après HBM, HBM2 et HBM2E, de mémoire vive à large bande passante.
Jusqu’ici, la capacité maximale des modules HBM3 s’élevait à 16 gigaoctets.
Pour cette nouvelle capacité de 24 gigaoctets, un record de l’industrie, le fondeur sud-coréen est le premier à développer des mémoires HBM3 à douze couches, également en hausse de 50 %.
Ses ingénieurs ont amélioré le procédé de fabrication en tirant parti des technologies MR-MUF, Advanced Mass Reflow Molded Underfill, Sous-remplissage avancé moulé par refusion en masse, et TSV, Through Silicon Via, Via en silicium, cette dernière pour réduire de 40 % l’épaisseur d’une puce DRAM.
Les mémoires à large bande passante sont principalement exploitées dans les serveurs et les cartes accélératrices pour les serveurs. NVIDIA a par exemple présenté récemment la H100 NVL, une nouvelle déclinaison de sa carte accélératrice avec 188 Go de mémoire HBM3, contre 80 Go de mémoire HBM2E pour la H100 PCIe originelle.
Ces nouvelles puces permettront de répondre à la demande vorace pour l’intelligence artificielle génératrice.
On pourrait ainsi envisager des nouvelles cartes H100 avec respectivement 120 et 282 Go de mémoire HBM3.
Les performances de ces puces HBM3 à 24 Go sont inchangées par rapport à celles de 16 Go : 6,4 Gbps par pin, soit une bande passante de 819,2 Go/s par pile.