Benvenuti al primo articolo della nostra nuova serie, Costruire su misura in un mondo dominato dall'IA. Noi di EdgeConneX costruire data center su misura alle specifiche uniche dei clienti fa parte della nostra tradizione; lo facciamo dal 2009. Nel corso di questi anni, le specifiche dei nostri clienti sono cambiate, e molto. Con l'accelerazione della migrazione al cloud, i provider hanno richiesto strutture significativamente più grandi in posizioni strategiche. Quando i consumatori si sono orientati verso lo streaming, i provider hanno avuto bisogno di implementazioni all'edge. Abbiamo supportato i nostri clienti in ciascuno di questi cambiamenti.
L'intelligenza artificiale (IA) ha ancora una volta stravolto i requisiti. La progettazione di infrastrutture adatte ai carichi di lavoro dell'IA è molto diversa da quella necessaria per i carichi di lavoro cloud o lo streaming di contenuti. Le esigenze relative a ubicazione, tempistiche e densità sono tutte piuttosto diverse nel caso dell'IA. In questa serie, esamineremo una per una ciascuna di queste dinamiche, spiegando cosa è cambiato con l'IA, in che modo tali cambiamenti influenzano lo sviluppo dei data center e come EdgeConneX continui a soddisfare le specifiche esigenze dei clienti.
Requisiti di ubicazione per l'addestramento e l'inferenza dei modelli di IA
La potenza di un modello di IA dipende dal numero di parametri utilizzati durante l'addestramento. I modelli vengono addestrati su cluster di unità di elaborazione grafica (GPU) collegate tra loro e, all'aumentare del numero di parametri, aumenta anche la dimensione del cluster. (Meta’s Llama 3.1, ad esempio, ha 405 miliardi di parametri ed è stato addestrato utilizzando un cluster di 16.000 GPU NVIDIA H100. Il modello di nuova generazione dell'azienda, Llama 4, ha 2 trilioni di parametri ed è addestrato su un cluster di oltre 100.000 GPU H100.)
I cluster di GPU più grandi comportano un aumento del fabbisogno energetico e dello spazio nei data center. La domanda globale di capacità dei data center è oggi pari a circa 60 GW; entro il 2030 potrebbe essere da 3 a 5 volte superiore, con una parte significativa dell'aumento attribuibile all'IA. I campus di data center da gigawatt che si estendono su milioni di metri quadrati stanno diventando sempre più comuni. È sempre più difficile reperire quel tipo di energia e spazio nei mercati primari, quindi le aziende tecnologiche che addestrano modelli di IA stanno guardando a nuovi mercati per un accesso più facile a terreni ed energia.
L'inferenza AI (ovvero l'utilizzo del modello addestrato per elaborare nuovi input e generare output) presenta requisiti diversi. Per applicazioni specifiche, quali i veicoli autonomi, il trading ad alta frequenza e l'automazione industriale, l'inferenza può richiedere una bassa latenza. In questi casi, potrebbero rendersi necessarie implementazioni edge.
Costruire in base alle esigenze del luogo
Per soddisfare i requisiti in termini di energia e terreni necessari per l'addestramento dei modelli di IA è necessario poter contare su un solido team immobiliare con esperienza nello sviluppo di nuovi mercati. Con implementazioni in Oltre 60 mercati unici in tutto il mondo, vantiamo l'esperienza e la competenza necessarie per avere successo in una vasta gamma di contesti. In qualità di nostro Direttore Marketing e Prodotti Phillip Marangella spiegato in un articolo riguardo alla capacità di soddisfare le esigenze dei clienti ovunque ne abbiano bisogno: «È importante riconoscere ciò che accomuna mercati così diversi e in che modo possono differire… Sebbene possano esserci molte soluzioni comuni a tutti i mercati, c’è un enorme valore nel sapere come ottenere risultati in luoghi, culture e comunità diverse».
Per supportare implementazioni di varie dimensioni e in diverse località è necessaria una catena di approvvigionamento dinamica. La nostra esperienza e competenza abbracciano una vasta gamma di dimensioni e tipologie di sviluppo. Gestiamo implementazioni edge nell'ordine dei 2 MW, nonché implementazioni hyperscale nell'ordine di oltre 200 MW. Realizziamo soluzioni greenfield, riadattiamo strutture esistenti o stringiamo partnership dove necessario per accelerare l'ingresso in nuovi mercati in tutto il mondo. La nostra catena di approvvigionamento affidabile consente un approvvigionamento rapido a livello globale, eliminando le sfide logistiche comunemente associate alle regioni difficili da raggiungere. Sfruttiamo un approccio flessibile alla Basis of Design per identificare, valutare ed eseguire in tutto il mondo con le migliori pratiche di progettazione, i migliori partner e la migliore tecnologia.
In conclusione
Che si tratti di addestramento dei modelli o di inferenza, le esigenze specifiche dei carichi di lavoro legati all’intelligenza artificiale stanno determinando sviluppi significativi in nuovi mercati, oltre a nuovi progressi nell’edge computing. Il successo richiede uno sviluppatore con una profonda esperienza globale in una vasta gamma di dimensioni e tipologie di implementazione, una catena di fornitura dinamica e un impegno verso la sostenibilità anche laddove ciò risulta più difficile. Uno sviluppatore come EdgeConneX.
Prossimamente nella Costruire su misura in un mondo dominato dall'IA :