새로운 시리즈의 첫 번째 블로그에 오신 것을 환영합니다, 인공지능 세상에 맞게 구축하기. 엣지컨넥스에서 고유한 고객 사양에 맞게 데이터센터를 구축하는 것은 고유한 고객 사양에 맞게 데이터 센터를 구축하는 것은 2009년부터 이어져 온 당사의 고유한 업무입니다. 그 동안 고객의 사양은 많이 변했습니다. 클라우드 마이그레이션이 가속화됨에 따라 공급업체는 전략적 위치에 훨씬 더 큰 규모의 시설을 필요로 했습니다. 소비자가 스트리밍으로 전환함에 따라 공급자는 엣지에 배포해야 했습니다. 저희는 이러한 변화 속에서 고객을 지원했습니다.
인공지능(AI)이 다시 한 번 요구 사항을 뒤집어 놓았습니다. AI 워크로드에 맞게 구축하는 것은 클라우드 워크로드나 콘텐츠 스트리밍에 맞게 구축하는 것과는 매우 다릅니다. AI는 위치, 시기, 밀도 요구 사항이 모두 완전히 다릅니다. 이 시리즈에서는 이러한 역학 관계를 차례로 살펴보면서 AI로 인해 무엇이 바뀌었는지, 이러한 변화가 데이터센터 개발에 어떤 영향을 미치는지, 그리고 EdgeConneX가 어떻게 고유한 고객 사양을 지속적으로 지원하는지 설명합니다.
AI 모델 학습 및 추론을 위한 위치 요구 사항
AI 모델의 성능은 학습 중에 사용되는 매개변수의 수에 따라 결정됩니다. 모델은 연결된 GPU(그래픽 처리 장치) 클러스터에서 학습되며, 매개변수의 수가 증가함에 따라 클러스터의 크기도 커집니다. (메타의 Llama 3.1은 4,050억 개의 파라미터를 가지고 있으며 16,000개의 NVIDIA H100 GPU 클러스터를 사용하여 학습되었습니다. 메타의 차세대 모델인 라마 4는 다음과 같은 특징을 가지고 있습니다. 2조 개의 파라미터 100,000개 이상의 100,000개 이상의 H100 GPU.)
GPU 클러스터가 커질수록 데이터센터 전력과 공간 요구 사항이 증가합니다. 오늘날 데이터센터 용량에 대한 전 세계 수요는 약 60GW이며, 2030년에는 이보다 3~5배 증가할 수 있습니다. 3~5배증가하며, 이 중 상당 부분이 AI로 인한 것입니다. 수백만 평방 피트에 달하는 기가와트급 데이터센터 캠퍼스가 점점 더 보편화되고 있습니다. 이러한 종류의 전력과 공간은 주요 시장에서 점점 더 구하기 어려워지고 있기 때문에 AI 모델을 훈련하는 기술 기업들은 토지와 전력에 더 쉽게 접근할 수 있는 새로운 시장을 찾고 있습니다.
AI 추론(학습된 모델을 사용하여 새로운 입력을 처리하고 출력을 생성하는 것)에는 다양한 요구 사항이 있습니다. 자율 주행 차량, 고빈도 거래, 산업 자동화와 같은 특정 애플리케이션의 경우 추론에는 짧은 지연 시간이 필요할 수 있습니다. 이러한 경우에는 엣지 배포가 필요할 수 있습니다.
위치 요건에 맞는 건물 구축
AI 모델 학습의 성능과 토지 요구 사항을 충족하려면 새로운 시장에서의 개발 경험이 있는 강력한 부동산 팀이 필요합니다. 배포 시 60개 이상의 고유 시장 전 세계 다양한 지역에서 성공을 거둔 경험과 전문성을 보유하고 있습니다. 최고 마케팅 및 제품 책임자로서 필립 마랑겔라 에서 설명한 기사 는 고객이 역량을 필요로 하는 모든 곳에 서비스를 제공하는 것에 대해 "서로 다른 시장의 공통점과 차이점을 인식하는 것이 중요합니다... 시장 간에 공유할 수 있는 솔루션이 많지만, 다양한 위치, 문화, 커뮤니티에서 결과를 제공하는 방법을 아는 것은 엄청난 가치가 있습니다."라고 설명합니다.
다양한 규모와 위치의 배포를 지원하려면 역동적인 공급망이 필요합니다. Atlassian은 다양한 개발 규모와 유형을 아우르는 경험과 전문성을 보유하고 있습니다. 당사는 최대 2MW 범위의 엣지 배포와 200MW 이상의 하이퍼스케일 배포를 운영합니다. 또한 전 세계 신규 시장 진출을 가속화하기 위해 그린필드 솔루션을 구축하거나 기존 시설의 용도를 변경하거나 필요한 경우 파트너와 협력합니다. 신뢰할 수 있는 공급망을 통해 전 세계적으로 신속한 소싱이 가능하므로 접근하기 어려운 지역에서 흔히 발생하는 물류 문제를 해결할 수 있습니다. 유연한 디자인 기반 접근 방식을 활용하여 최고의 디자인 관행, 파트너 및 기술을 통해 전 세계에서 식별, 평가 및 실행합니다.
결론
모델 학습이든 추론이든, AI 워크로드의 고유한 요구 사항은 새로운 시장에서의 중요한 발전과 새로운 엣지 컴퓨팅의 발전을 주도하고 있습니다. 성공을 위해서는 다양한 배포 규모와 유형, 역동적인 공급망, 더 어려운 환경에서도 지속 가능성에 대한 헌신을 바탕으로 다양한 글로벌 경험을 갖춘 개발자가 필요합니다. 바로 엣지커넥스와 같은 개발업체입니다.
다음 편에서는 인공지능 시대에 걸맞은 빌딩 시리즈: