Saat kami melanjutkan seri Building to Suit in an AI World, mari kita telusuri bagaimana penerapan AI lebih padat daripada penerapan cloud atau perusahaan tradisional, dan bagaimana hal ini mendorong pergeseran yang signifikan dalam desain pusat data. Antara tahun 2011 dan 2020-sebelum AI berkembang pesat-kepadatan rak rata-rata naik dari 2,4 kW menjadi 8,4 kW. Arsitektur GPU NVIDIA generasi saat ini, Blackwell, dirancang untuk 120 kW per raknaik dari 41 kW per rak satu generasi yang lalu (Hopper). Dan arsitektur terus memadat; pada bulan Maret, CEO NVIDIA Jensen Huang mengumumkan peta jalan untuk rak 600 kW pada akhir tahun 2027.
Penerapan AI sangat padat karena GPU yang digunakan untuk melatih model AI jauh lebih boros daya daripada CPU yang digunakan untuk beban kerja tradisional. Menjaga prosesor tetap berdekatan memungkinkan ukuran cluster yang lebih besar, dan ukuran cluster yang lebih besar memungkinkan model yang lebih bertenaga. (Pelajari lebih lanjut di Membangun agar Sesuai dengan Lokasi.)
Pada kepadatan seperti ini, penerapan AI menghasilkan terlalu banyak panas untuk ditangani oleh pendingin udara; mereka membutuhkan pendingin cair. Di saat yang sama, sebagian besar pusat data yang mendukung AI saat ini juga mendukung beban kerja tradisional, yang jauh lebih tidak padat dan dapat didinginkan secara efektif dengan udara. Jadi, pusat data harus dapat mendukung pendinginan udara dan cairan. Mengingat pengembangan dan adopsi AI masih dalam tahap awal, dengan banyaknya inovasi yang akan datang, kepadatan data kemungkinan besar akan terus meningkat. Pusat data harus mampu mendukung kepadatan saat ini dan fleksibel untuk mendukung kepadatan di masa depan.
Bangunan yang Sesuai dengan Persyaratan Kepadatan
Pusat data AI tidak hanya dirancang dengan cara yang berbeda, tetapi juga dioperasikan dengan cara yang berbeda. Memberikan solusi pusat data berkemampuan AI adalah tentang teknologi, implementasi, dan eksekusi sehari-hari. Penawaran produk pusat data berkemampuan AI kami, Kecerdikanmemiliki SOP, MOP, dan EOP yang terdepan di industri untuk memastikan pengalaman terbaik di kelasnya. Sebagai Chief Marketing and Product Officer kami Phillip Marangella dijelaskan dalam sebuah artikel tentang mengadaptasi infrastruktur pusat data untuk era AI, "Seiring transisi dari pendingin udara ke pendingin cair, kami juga telah sepenuhnya mengkonfigurasi ulang prosedur operasional, pelatihan, dan kesiapan kami untuk memastikan lingkungan yang aman, terjamin, dan berkelanjutan untuk penerapan AI/HPC."
Pusat data modern perlu mendukung beban kerja AI dengan kepadatan tinggi dan beban kerja tradisional dengan kepadatan lebih rendah. Ingenuity fleksibel untuk mendukung kepadatan rak dari 10 kW hingga lebih dari 500 kW. Mengakomodasi berbagai kepadatan daya dan persyaratan pendinginan untuk GPU, CPU, penyimpanan, dan jaringan, Ingenuity mendukung beban kerja AI khusus serta beban kerja campuran, semuanya dalam pusat data yang sama. Kami memiliki fleksibilitas untuk menyeimbangkan berbagai beban TI dalam ruang data yang sama, memanfaatkan penyimpanan termal bawaan untuk kemampuan pendinginan berkelanjutan.
Pusat data yang dibangun untuk mendukung beban kerja AI saat ini harus fleksibel untuk mendukung beban kerja AI di masa depan. Sebagai mitra bersertifikasi NVIDIA DGX, kami bekerja sama dengan pembuat chip untuk memastikan bahwa kami memiliki solusi teknis untuk mendukung kebutuhan daya dan pendinginan untuk chip AI generasi mendatang. Seperti bidang belakang pada sirkuit, pusat data berkemampuan AI kami berfungsi sebagai fondasi tempat penerapan AI dapat berjalan. Desainnya fleksibel untuk mendukung berbagai teknologi pendinginan dan mudah beradaptasi untuk mendukung kepadatan di masa depan dengan cara yang hemat biaya seiring dengan perkembangan arsitektur AI.
Pusat data harus berkelanjutan, bahkan ketika kebutuhan dayanya terus bertambah. AI menghadirkan tantangan dan peluang. Tantangannya meliputi persyaratan teknologi untuk kebutuhan kepadatan daya yang lebih tinggi karena AI dan HPC; peluangnya meliputi pertumbuhan dan adopsi teknologi AI yang cepat. Saat kami menghadapi tantangan dan peluang ini, kami tetap berdedikasi untuk mengurangi dampak iklim melalui strategi keberlanjutan kami baik dalam jangka pendek maupun jangka panjang. Sebagai contoh, desain pendinginan kami yang efisien untuk aplikasi dengan kepadatan tinggi membantu mengoptimalkan Efektivitas Penggunaan Daya (Power Usage Effectiveness/PUE).
Intinya
Kepadatan yang meningkat pesat terkait dengan beban kerja AI mendorong pergeseran signifikan dalam cara pusat data dirancang. Keberhasilan membutuhkan pengembang yang berkomitmen terhadap keunggulan dan keberlanjutan operasional, dengan desain yang cukup fleksibel untuk mendukung beban kerja AI dengan kepadatan tinggi dan beban kerja tradisional dengan kepadatan lebih rendah - serta beban kerja di masa depan seiring dengan perkembangan AI. Pengembang seperti EdgeConneX.
Sebelumnya di bagian Bangunan yang Sesuai dengan Dunia AI Series: