Immagina di avere tra le mani un sistema così potente da gestire i carichi di lavoro più impegnativi nel campo dell’intelligenza artificiale. È esattamente ciò che ha realizzato Dell Technologies, che ha consegnato a CoreWeave il primo sistema al mondo basato sulla rivoluzionaria piattaforma NVIDIA GB300 NVL72. Questa infrastruttura di nuova generazione è progettata per affrontare le sfide più ardue dell’AI, come il training di modelli linguistici avanzati e l’inferenza su larga scala. Ma cosa significa tutto questo per noi? Scopriamolo insieme!
1. La potenza del nuovo sistema GB300 NVL72
Ogni rack del sistema GB300 NVL72 rappresenta un concentrato di tecnologia all’avanguardia. Con 72 GPU NVIDIA Blackwell Ultra, 36 CPU NVIDIA Grace e 36 DPU BlueField, questo sistema può gestire consumi elettrici fino a 1400 W per GPU, grazie a un innovativo sistema di raffreddamento a liquido. E la capacità di memoria? Impressionante: parliamo di 20 TB di HBM3E e 40 TB di RAM per rack, il che si traduce in prestazioni strabilianti.
Ma non finisce qui! Con una connettività di rete fornita dagli switch NVIDIA Quantum-X800 InfiniBand e ConnectX-8 SuperNIC, il sistema può raggiungere una banda incredibile di 14,4 GB/s. Immagina la velocità con cui i carichi di lavoro AI possono essere elaborati: mai vista prima!
2. Incrementi di prestazioni e efficienza energetica
Il sistema GB300 porta le prestazioni a un livello senza precedenti: 1,1 ExaFLOPS FP4 per inferenza e 0,36 ExaFLOPS FP8 per il training, con un miglioramento del 50% rispetto al suo predecessore, il GB200 NVL72. Ma non si tratta solo di potenza; stiamo parlando anche di efficienza. La nuova piattaforma garantisce fino a 10 volte maggiore reattività nei carichi AI interattivi e un’efficienza energetica cinque volte superiore rispetto all’architettura Hopper. Questo significa prestazioni elevate e risparmi significativi sui costi energetici!
Inoltre, l’output di inferenza per i modelli di reasoning può crescere fino a 50 volte, aprendo la strada a nuove possibilità nell’AI. Ma come funziona tutto questo in pratica? La risposta sta nella stretta integrazione con l’infrastruttura software di CoreWeave, che comprende servizi come CoreWeave Kubernetes Service e Slurm on Kubernetes. Ti sei mai chiesto come la tecnologia possa semplificare e potenziare il nostro lavoro quotidiano?
3. Un futuro brillante per l’intelligenza artificiale
La creazione di questi sistemi non è solo un traguardo tecnico, ma anche un’opportunità per i clienti di prepararsi per la prossima ondata di innovazioni nel campo dell’intelligenza artificiale. Come ha dichiarato Peter Salanki, CTO di CoreWeave, “Siamo orgogliosi di essere i primi a implementare questa piattaforma trasformativa e aiutare gli innovatori a spingersi oltre i limiti attuali dell’AI”.
Con l’espansione globale della distribuzione dei rack GB300 NVL72 prevista entro la fine del 2025, CoreWeave sta già preparando il terreno per una nuova era nell’AI. Non vorrai perderti questa rivoluzione, vero? Il futuro è già qui e sta accadendo proprio davanti ai nostri occhi!
