Velkommen til den første bloggen i vår nye serie, Bygge som passer i en AI-verden . Hos EdgeConneX er det å bygge datasentre som passer unike kundespesifikasjoner en del av vår historie; vi har gjort det siden 2009. I løpet av disse årene har kundenes spesifikasjoner endret seg – mye. Etter hvert som skymigreringen akselererte, krevde leverandører betydelig større anlegg på strategiske steder. Etter hvert som forbrukerne gikk over til strømming, trengte leverandører implementeringer i kanten. Vi har støttet kundene våre gjennom hvert av disse skiftene.
Kunstig intelligens (KI) har nok en gang endret kravene. Å bygge for å passe KI-arbeidsbelastninger er veldig annerledes enn å bygge for å passe skybaserte arbeidsbelastninger eller innholdsstrømming. Plassering, timing og tetthetsbehov er alle ganske forskjellige med KI. I denne serien skal vi ta for oss hver av disse dynamikkene etter tur og forklare hva som har endret seg med KI, hvordan disse endringene påvirker datasenterutviklingen, og hvordan EdgeConneX fortsetter å støtte unike kundespesifikasjoner.
Stedskrav for AI-modelltrening og -innledning
Kraften til en AI-modell er drevet av antall parametere som brukes under trening. Modeller trenes på klynger av tilkoblede grafikkprosessorenheter (GPU-er), og etter hvert som antallet parametere øker, øker også størrelsen på klyngen. (Metas Llama 3.1 har for eksempel 405 milliarder parametere og ble trent ved hjelp av en klynge på 16 000 NVIDIA H100 GPU-er. Selskapets neste generasjons modell, Llama 4, har 2 billioner parametere og er trent på en klynge på over 100 000 H100 GPU-er .)
Større GPU-klynger resulterer i økte krav til datasentrenes strøm- og plassbehov. Den globale etterspørselen etter datasenterkapasitet er i dag omtrent 60 GW; innen 2030 kan den være 3–5 ganger så stor , og en betydelig del av økningen kan tilskrives AI. Gigawatt-datasentercampuser som strekker seg over millioner av kvadratmeter blir stadig mer vanlige. Den typen strøm og plass er stadig vanskeligere å få tak i i primærmarkedene, så teknologiselskapene som trener AI-modeller ser mot nye markeder for enklere tilgang til land og strøm.
AI-inferens (bruk av den trente modellen til å behandle nye input og generere output) har andre krav. For spesifikke applikasjoner, som autonome kjøretøy, høyfrekvent handel og industriell automatisering, kan inferens kreve lav latens. I slike tilfeller kan edge-distribusjoner være nødvendig.
Bygging som passer til stedets krav
Å møte kravene til kraft og areal i forbindelse med AI-modelltrening krever et sterkt eiendomsteam med erfaring i utvikling i nye markeder. Med utplasseringer i 60+ unike markeder verden rundt har vi erfaringen og ekspertisen til å lykkes på en rekke steder. Som vår markeds- og produktsjef Phillip Marangella forklart i en artikkel om å levere der kundene trenger kapasitet, «Det er viktig å forstå hva ulike markeder har til felles og hvordan de kan variere ... Selv om det kan finnes mange delte løsninger på tvers av markeder, er det enorm verdi i å vite hvordan man leverer resultater på ulike steder, i ulike kulturer og lokalsamfunn.»
Støtte til utplasseringer av ulike størrelser og steder krever en dynamisk forsyningskjede. Vår erfaring og ekspertise spenner over en rekke utviklingsstørrelser og -typer. Vi opererer i utplasseringer i området rundt 2 MW, samt hyperskalautplasseringer i området over 200 MW. Vi bygger nye løsninger, omfordeler eksisterende anlegg eller samarbeider der det er nødvendig for å akselerere inngangen til nye markeder over hele verden. Vår pålitelige forsyningskjede muliggjør rask innkjøp globalt, og eliminerer logistiske utfordringer som ofte er forbundet med vanskelig tilgjengelige regioner. Vi bruker en fleksibel Basis of Design-tilnærming for å identifisere, evaluere og gjennomføre over hele verden med de beste designpraksisene, partnerne og teknologien.
Konklusjon
Enten det gjelder modelltrening eller inferens, driver de unike kravene til AI-arbeidsbelastninger betydelig utvikling i nye markeder, samt nye fremskritt innen edge computing. Suksess krever en utvikler med dyp global erfaring på tvers av en rekke distribusjonsstørrelser og -typer, en dynamisk forsyningskjede og en forpliktelse til bærekraft selv der det er vanskeligere. En utvikler som EdgeConneX.
Neste steg i bygningen som passer til en AI World Series: