Lundi, durant le discours inaugural de la conférence GTC 2024, qui se tient à nouveau en personne pour la première fois depuis cinq ans, Jensen Huang, CEO de NVIDIA, a annoncé Blackwell, sa nouvelle génération d’accélérateurs pour l’intelligence artificielle.
Elle est nommée en l’honneur du mathématicien américain David Harold Blackwell, un pionnier des statistiques, et succède à la génération Hopper, dont la popularité a fait exploser le cours de l’action de l’entreprise.
La pièce maîtresse de la gamme est la « super puce » GB200, fabriquée par TSMC avec un procédé personnalisé 4NP (4 nanomètres), qui serait la puce la plus puissante du monde. On peut s’étonner que NVIDIA n’ait pas opté pour le procédé 3 nm de son partenaire.
Fruit de l’assemblage de deux accélérateurs graphiques B200 Tensor Core, connectées au processeur Grace par une interconnexion NVLink à 900 Go/s, elle intègre au total 208 milliards de transistors.
Alors que jusqu’à présent, NVIDIA connectait des puces séparées, l’entreprise adopte pour la première fois l’architecture de pucettes (chiplets) avec Blackwell.
On ne connait pas l’entière fiche technique de la puce B200, amenée à remplacer la H100.
Sa mémoire intégrée de 192 Go, passe à la norme HBM3E, pour une bande passante de 8 Gb/s (respectivement 80 Go et 5,23 Gb/s pour la H100).
La puce offrirait des performances de 4 500 TFLOPS en FP4, 1 100 en TF32, contre 1 980 et 495 pour la H100, pour une consommation de 1 000 W (700 pour la H100).
À l’échelle du système GB200 NVL72, qui combine 36 GB200 (et donc 72 B200), les performances seraient jusqu’à 30 fois supérieures en inférence, et quatre fois en entrainement, comparées au même nombre de cœurs Tensor Core H100, pour des coûts et une consommation réduits jusqu’à 25 fois.
NVIDIA offre également une carte HGX B200, conçue pour les serveurs x86, composée de huit processeurs B200, avec une bande passante de réseau de 400 Gb/s.
Les produits Blackwell seront disponibles « avant la fin de l’année ».