Selamat datang di blog pertama dalam seri baru kami, Membangun agar Sesuai di Dunia AI. Di EdgeConneX, membangun pusat data yang sesuai dengan spesifikasi pelanggan yang unik adalah bagian dari silsilah kami; kami telah melakukannya sejak tahun 2009. Selama bertahun-tahun itu, spesifikasi pelanggan kami telah banyak berubah - banyak sekali. Seiring dengan percepatan migrasi cloud, penyedia layanan membutuhkan fasilitas yang jauh lebih besar di lokasi yang strategis. Ketika konsumen beralih ke streaming, penyedia membutuhkan penerapan di tepi. Kami telah mendukung pelanggan kami melalui setiap perubahan tersebut.
Kecerdasan buatan (AI) sekali lagi telah mengubah persyaratan. Membangun agar sesuai dengan beban kerja AI sangat berbeda dengan membangun agar sesuai dengan beban kerja cloud atau streaming konten. Kebutuhan lokasi, waktu, dan kepadatan semuanya sangat berbeda dengan AI. Dalam seri ini, kami akan membahas setiap dinamika tersebut secara bergantian, menjelaskan apa yang telah berubah dengan AI, bagaimana perubahan tersebut memengaruhi pengembangan pusat data, dan bagaimana EdgeConneX terus mendukung spesifikasi pelanggan yang unik.
Persyaratan Lokasi untuk Pelatihan & Inferensi Model AI
Kekuatan model AI didorong oleh jumlah parameter yang digunakan selama pelatihan. Model dilatih pada kelompok unit pemrosesan grafis (GPU) yang terhubung, dan seiring bertambahnya jumlah parameter, begitu pula dengan ukuran kelompok. (Meta Llama 3.1misalnya, memiliki 405 miliar parameter dan dilatih menggunakan klaster yang terdiri dari 16.000 GPU NVIDIA H100.) Model generasi berikutnya dari perusahaan ini, Llama 4, memiliki 2 triliun parameter dan dilatih pada sebuah cluster yang terdiri dari lebih dari 100.000 GPU H100.)
Cluster GPU yang lebih besar menghasilkan peningkatan daya dan kebutuhan ruang pusat data. Permintaan global untuk kapasitas pusat data saat ini adalah sekitar 60 GW; pada tahun 2030, permintaan tersebut bisa menjadi 3-5 kali lipat dari itudengan sebagian besar peningkatan disebabkan oleh AI. Pusat data dengan kapasitas Gigawatt yang mencakup jutaan kaki persegi menjadi semakin umum. Daya dan ruang sebesar itu semakin sulit didapat di pasar utama, sehingga perusahaan teknologi yang melatih model AI mencari pasar baru untuk mendapatkan akses yang lebih mudah ke lahan dan daya.
Inferensi AI (menggunakan model terlatih untuk memproses input baru dan menghasilkan output) memiliki persyaratan yang berbeda. Untuk aplikasi tertentu, seperti kendaraan otonom, perdagangan frekuensi tinggi, dan otomasi industri, inferensi mungkin memerlukan latensi rendah. Dalam kasus tersebut, penerapan edge mungkin diperlukan.
Bangunan yang Sesuai dengan Persyaratan Lokasi
Memenuhi kebutuhan tenaga dan lahan untuk pelatihan model AI membutuhkan tim real estat yang kuat dengan pengalaman mengembangkan pasar baru. Dengan penerapan di 60+ pasar unik di seluruh dunia, kami memiliki pengalaman dan keahlian untuk berhasil di berbagai lokasi. Sebagai Chief Marketing and Product Officer kami Phillip Marangella dijelaskan dalam sebuah artikel tentang memberikan kapasitas di mana pun pelanggan membutuhkan, "Penting untuk mengenali kesamaan yang dimiliki oleh pasar yang berbeda dan bagaimana perbedaannya... Meskipun mungkin ada banyak solusi yang sama di seluruh pasar, ada nilai yang sangat besar dalam mengetahui cara memberikan hasil di berbagai lokasi, budaya, dan komunitas."
Mendukung penyebaran berbagai ukuran dan lokasi membutuhkan rantai pasokan yang dinamis. Pengalaman dan keahlian kami menjangkau berbagai ukuran dan jenis pengembangan. Kami mengoperasikan penyebaran tepi dalam kisaran ~2 MW serta penyebaran skala besar dalam kisaran 200+ MW. Kami membangun solusi greenfield, menggunakan kembali fasilitas yang sudah ada, atau bermitra jika diperlukan untuk mempercepat masuk ke pasar baru di seluruh dunia. Rantai pasokan tepercaya kami memungkinkan pengadaan yang cepat secara global, menghilangkan tantangan logistik yang biasanya terkait dengan wilayah yang sulit dijangkau. Kami memanfaatkan pendekatan Dasar Desain yang fleksibel untuk mengidentifikasi, mengevaluasi, dan melaksanakan di seluruh dunia dengan praktik desain, mitra, dan teknologi terbaik.
Intinya
Baik untuk pelatihan model atau inferensi, persyaratan unik dari beban kerja AI mendorong perkembangan yang signifikan di pasar baru, serta kemajuan komputasi edge yang baru. Keberhasilan membutuhkan pengembang dengan pengalaman global yang mendalam di berbagai ukuran dan jenis penerapan, rantai pasokan yang dinamis, dan komitmen terhadap keberlanjutan bahkan di tempat yang lebih sulit. Pengembang seperti EdgeConneX.
Berikutnya dalam seri Bangunan yang Sesuai dengan Dunia AI Series: