NVIDIA ha rilasciato una nuova generazione di chip per supercomputer che dovrebbero svolgere un ruolo importante nelle future scoperte nel deep learning e nei modelli linguistici su larga scala (LLM) come OpenAI GPT-4. Questa tecnologia rappresenta un passo avanti significativo rispetto alla generazione precedente e verrà utilizzata nei data center e nei supercomputer.
Il prodotto chiave è la GPU basata sull'architettura HGX H200 NVIDIA Hopper, che ha sostituito la popolare GPU H100. Questo è il primo chip dell'azienda che utilizza la memoria HBM3e. Funziona più velocemente e ha un volume maggiore, quindi sarà più adatto per attività relative a modelli linguistici di grandi dimensioni. “Grazie a HBM3e NVIDIA L'H200 offre 141 GB di spazio di archiviazione a 4,8 terabyte al secondo, quasi il doppio della capacità e 2,4 volte la larghezza di banda del suo predecessore. NVIDIA A100", afferma l'azienda.
Per quanto riguarda i vantaggi dell’IA, NVIDIA afferma che l'HGX H200 raddoppia la velocità di uscita su Llama 2, un modello LLM da 70 miliardi di parametri, rispetto all'H100. Verrà eseguito in tutti i tipi di data center (on-premise, cloud, cloud ibrido ed edge) e sarà distribuito su Amazon Web Services, Google Cloud, Microsoft Azure e infrastruttura cloud Oracle. Il lancio è previsto per il II trimestre. 2024 anni.
Un altro prodotto chiave NVIDIA c'è un “superchip” GH200 Grace Hopper, che unisce la GPU HGX H200 e il processore NVIDIA Grace basato su Arm che utilizza l'interfaccia NVLink-C2C. È progettato per consentire ai supercomputer “scienziati e ricercatori di risolvere i problemi più complessi accelerando il calcolo ad alte prestazioni e applicazioni complesse basate su AI, che funzionano con terabyte di dati", - dice y NVIDIA.
Il GH200 sarà utilizzato in “oltre 40 supercomputer AI in centri di ricerca globali, produttori di sistemi e fornitori di servizi cloud”, tra cui Dell, Eviden, Hewlett Packard Enterprise (HPE), Lenovo, QCT e Supermicro, osserva la società. Tra questi ci sono i supercomputer HPE Cray EX2500, che utilizzeranno quattro processori GH200, scalabili per decine di migliaia di nodi Grace Hopper Superchip.
Forse il più grande supercomputer con Grace Hopper sarà JUPITER, che sarà “il sistema di intelligenza artificiale più potente del mondo” quando verrà lanciato nel 2024. Utilizza un’architettura raffreddata a liquido, “con un modulo booster composto da quasi 24 superchip NVIDIA GH200, interconnesso da una piattaforma di rete NVIDIA Quantum-2 InfiniBand", ha affermato la società.
У NVIDIA affermano che JUPITER contribuirà a compiere progressi scientifici in una serie di settori, tra cui le previsioni climatiche e meteorologiche, creando simulazioni climatiche e meteorologiche ad alta risoluzione e visualizzazioni interattive. Verrà utilizzato anche per lo sviluppo di farmaci, l’informatica quantistica e l’ingegneria industriale.
Le nuove tecnologie saranno fondamentali NVIDIA, che ora ricava la maggior parte delle sue entrate dai segmenti AI e data center. Lo scorso trimestre, la società ha generato un fatturato record di 10,32 miliardi di dollari solo in questo settore, ovvero il 171% in più rispetto a un anno fa. La nuova tecnologia dovrebbe aiutarla ad aumentare il proprio vantaggio rispetto ai concorrenti in un settore che già domina.
Leggi anche:
superrete globale