La GPU NVIDIA H100 Tensor Core utilizzata sulla nuova serie di macchine virtuali Microsoft Azure ora disponibile in generale

La GPU NVIDIA H100 Tensor Core disponibile su Microsoft Azure VMs

Gli utenti di Microsoft Azure possono ora rivolgersi all’ultima tecnologia di calcolo accelerato NVIDIA per addestrare e distribuire le loro applicazioni AI generative.

Disponibili da oggi, le VM Microsoft Azure ND H100 v5 utilizzando le GPU NVIDIA H100 Tensor Core e la rete NVIDIA Quantum-2 InfiniBand – consentono di scalare l’IA generativa, il calcolo ad alte prestazioni (HPC) e altre applicazioni con un clic da un browser.

Disponibile per i clienti negli Stati Uniti, la nuova istanza arriva mentre sviluppatori e ricercatori stanno utilizzando modelli di linguaggio di grandi dimensioni (LLM) e calcolo accelerato per scoprire nuovi casi d’uso per i consumatori e le imprese.

La GPU NVIDIA H100 offre prestazioni di classe supercomputer attraverso innovazioni architettoniche, inclusi Tensor Core di quarta generazione, un nuovo motore Transformer per l’accelerazione di LLM e la tecnologia NVLink più recente che consente alle GPU di comunicare tra loro a 900GB/sec.

L’inclusione di NVIDIA Quantum-2 CX7 InfiniBand con una larghezza di banda cross-nodo di 3.200 Gbps garantisce prestazioni fluide tra le GPU su scala massiccia, equiparando le capacità dei supercomputer di maggior successo a livello globale.

Scaling con le VM v5

Le VM ND H100 v5 sono ideali per addestrare ed eseguire inferenze per modelli LLM sempre più complessi e modelli di visione artificiale. Queste reti neurali alimentano le applicazioni AI generative più esigenti e intensiva di calcolo, tra cui risposta a domande, generazione di codice, generazione di audio, video e immagini, riconoscimento vocale e altro ancora.

Le VM ND H100 v5 raggiungono fino al 2x di velocità nei modelli LLM come il modello BLOOM 175B per l’inferenza rispetto alle istanze delle generazioni precedenti, dimostrando il loro potenziale per ottimizzare ulteriormente le applicazioni AI.

NVIDIA e Azure

Le GPU NVIDIA H100 Tensor Core su Azure offrono alle aziende prestazioni, versatilità e scala per potenziare i loro carichi di lavoro di addestramento e inferenza AI. La combinazione semplifica lo sviluppo e la distribuzione di AI di produzione con la suite software NVIDIA AI Enterprise integrata con Azure Machine Learning per MLOps e offre prestazioni AI di livello record nei benchmark MLPerf di standard di settore.

Inoltre, collegando la piattaforma NVIDIA Omniverse ad Azure, NVIDIA e Microsoft offrono a centinaia di milioni di utenti aziendali di Microsoft accesso a potenti risorse di digitalizzazione industriale e supercalcolo AI.

Scopri di più sulle nuove istanze Azure v5 alimentate da GPU NVIDIA H100.