När vi fortsätter vår serie om ”Building to Suit” i en AI-värld ska vi undersöka hur AI-implementeringar är mer kompakta än traditionella moln- eller företagsimplementeringar, och hur de driver på betydande förändringar i datacentrets utformning. Mellan 2011 och 2020 – innan AI tog fart –ökade den genomsnittliga racktätheten från 2,4 kW till 8,4 kW. Den nuvarande generationen av NVIDIA:s GPU-arkitektur, Blackwell, är utformad för 120 kW per rack, en ökning från 41 kW per rack för en generation sedan (Hopper). Och arkitekturerna fortsätter att bli tätare; i mars tillkännagav NVIDIAs VD Jensen Huang en plan för 600 kW-rack senast i slutet av 2027.
AI-implementeringar är så kompakta eftersom de GPU:er som används för att träna AI-modeller drar betydligt mer ström än de CPU:er som används för traditionella arbetsbelastningar. Genom att placera processorerna tätt ihop kan man skapa större kluster, och större kluster möjliggör kraftfullare modeller. (Läs mer i Bygga för att passa platsen.)
Vid sådana tätheter genererar AI-installationer för mycket värme för att luftkylning ska räcka till; de kräver vätskekylning. Samtidigt hanterar de flesta datacenter som idag stöder AI även traditionella arbetsbelastningar, vilka är betydligt mindre täta och kan kylas effektivt med luft. Datacenter måste därför kunna hantera både luft- och vätskekylning. Eftersom utvecklingen och införandet av AI befinner sig i ett mycket tidigt skede, med många innovationer framför oss, kommer tätheterna sannolikt att fortsätta öka. Datacenter måste kunna hantera dagens densiteter och vara flexibla nog att hantera framtida densiteter också.
Byggnad som uppfyller kraven på bebyggelsetäthet
Ett AI-datacenter är inte bara utformat på ett annat sätt, utan drivs också på ett annat sätt. Att leverera en AI-baserad datacenterlösning handlar om tekniken, implementeringen och det dagliga driftsarbetet. Vårt produktutbud för AI-baserade datacenter, Uppfinningsrikedom, har branschledande standardrutiner (SOP), arbetsrutiner (MOP) och undantagsrutiner (EOP) för att garantera en förstklassig upplevelse. Som vår marknads- och produktchef Phillip Marangella förklaras i en artikel om anpassningen av datacenterinfrastrukturen till AI-eran: ”I samband med övergången från luftkylning till vätskekylning har vi också helt omarbetat våra driftsrutiner, vår utbildning och vår beredskap för att säkerställa en säker och hållbar miljö för AI- och HPC-implementeringar.”
Ett modernt datacenter måste kunna hantera både AI-arbetsbelastningar med hög densitet och traditionella arbetsbelastningar med lägre densitet. Ingenuity är flexibelt och stöder rackdensiteter från 10 kW till över 500 kW. Ingenuity tillgodoser en mängd olika krav på effekttäthet och kylning för GPU, CPU, lagring och nätverk och stöder både dedikerade AI-arbetsbelastningar och blandade arbetsbelastningar, allt inom samma datacenter. Vi har flexibiliteten att balansera varierande IT-belastningar inom samma datahall genom att utnyttja inbyggd termisk lagring för kontinuerlig kylning.
Datacenter som byggs för att hantera dagens AI-arbetsbelastningar måste vara tillräckligt flexibla för att även kunna hantera framtida AI-arbetsbelastningar. Som NVIDIA DGX-certifierad partner arbetar vi nära tillsammans med chipstillverkaren för att säkerställa att vi har de tekniska lösningarna på plats för att hantera kraven på strömförsörjning och kylning för kommande generationer av AI-chips. Precis som en bakplan i kretsar fungerar vårt AI-aktiverade datacenter som en grund på vilken AI-implementeringar kan köras. Konstruktionen är flexibel för att stödja en rad olika kyltekniker och anpassningsbar för att hantera framtida densiteter på ett kostnadseffektivt sätt i takt med att AI-arkitekturerna utvecklas.
Datacenter måste vara hållbara, även när deras energibehov ökar. AI innebär både utmaningar och möjligheter. Utmaningarna omfattar de tekniska kraven på högre effekttäthet till följd av AI och HPC; möjligheterna omfattar den snabba tillväxten och spridningen av AI-teknik. Samtidigt som vi hanterar dessa utmaningar och möjligheter fortsätter vi att engagera oss för att mildra klimatpåverkan genom vår hållbarhetsstrategi på både kort och lång sikt. Till exempel bidrar våra effektiva kylningslösningar för applikationer med hög densitet till att optimera energianvändningseffektiviteten (PUE).
Sammanfattning
Den snabbt ökande datatätheten i samband med AI-arbetsbelastningar leder till betydande förändringar i hur datacenter utformas. För att lyckas krävs en leverantör som strävar efter operativ excellens och hållbarhet, med en design som är tillräckligt flexibel för att hantera både AI-arbetsbelastningar med hög datatäthet och traditionella arbetsbelastningar med lägre datatäthet – samt framtida arbetsbelastningar i takt med att AI-tekniken utvecklas. En leverantör som EdgeConneX.
I det förra avsnittet av Att bygga för att passa i en AI-värld :