Microsoft présente la famille ND H100 v5 d’instances virtuelles d’Azure, la plus puissante et la plus flexible pour les charges de travail d’intelligence artificielle. On pourrait en attendre un gain substantiel de performance, par rapport à la génération précédente d’instances, ND A100 v4, basée sur les puces A100 de NVIDIA.
La nouvelle famille d’instances virtuelles permet de sélectionner à la demande de huit à des milliers d’accélérateurs graphiques (GPU) H100, présentés en mars 2022 par NVIDIA lors de sa conférence GTC, interconnectés en réseaux Quantum-2 Infiniband pour une bande passante de 3,2 To/s par machine virtuelle – les huit GPU locaux étant reliés par NVSwitch et NVLink 4.0 pour 3,5 To/s de bande passante bidirectionnelle.
Ces instances sont équipées de processeurs Intel Xeon de quatrième génération, nom de code Sapphire Rapids, d’interconnexions PCIe 5 avec 64 gigaoctets par seconde d’interconnexion vers le GPU, et de seize canaux de mémoire DIMM DDR5 à 4 800 MHz..
Cette nouvelle famille d’instances permettrait aux organisations de réaliser leurs projets d’intelligence artificielle à l’échelle.
Microsoft met en avant son savoir-faire en matière d’informatique à l’échelle exa (1 000 pétaflops), ainsi que le pouvoir transformateur de l’intelligence artificielle, avec des exemples pas toujours probants, comme celui des nouveaux outils d’IA de Bing, dont l’intérêt et le succès restent à démontrer.
Pour obtenir un aperçu de ces nouvelles instances, il faut le demander en remplissant un formulaire.
Microsoft n’annonce pas de date prévue de disponibilité générale.