Bienvenido al primer blog de nuestra nueva serie, Construir a medida en un mundo de IA. En EdgeConneX, la construcción de centros de datos especificaciones únicas de los clientes forma parte de nuestro pedigrí; llevamos haciéndolo desde 2009. En estos años, las especificaciones de nuestros clientes han cambiado mucho. A medida que se aceleraba la migración a la nube, los proveedores necesitaban instalaciones mucho más grandes en ubicaciones estratégicas. A medida que los consumidores se pasaban al streaming, los proveedores necesitaban despliegues en la periferia. Hemos apoyado a nuestros clientes en cada uno de esos cambios.
La inteligencia artificial (IA) ha vuelto a poner patas arriba los requisitos. Construir para adaptarse a las cargas de trabajo de IA es muy diferente de construir para adaptarse a las cargas de trabajo en la nube o al streaming de contenidos. Las necesidades de ubicación, tiempo y densidad son muy diferentes en el caso de la IA. En esta serie, abordaremos cada una de estas dinámicas por separado, explicando qué ha cambiado con la IA, cómo afectan estos cambios al desarrollo del centro de datos y cómo EdgeConneX sigue siendo compatible con las especificaciones exclusivas de los clientes.
Requisitos de ubicación para el entrenamiento y la inferencia de modelos de IA
La potencia de un modelo de IA depende del número de parámetros utilizados durante el entrenamiento. Los modelos se entrenan en clusters de unidades de procesamiento gráfico (GPU) conectadas y, a medida que aumenta el número de parámetros, también lo hace el tamaño del cluster. (Meta Llama 3.1de Meta, por ejemplo, tiene 405.000 millones de parámetros y se entrenó utilizando un cluster de 16.000 GPUs NVIDIA H100. El modelo de última generación de la compañía, Llama 4, tiene 2 billones de parámetros y se ha entrenado en un cluster de más de 100.000 GPU H100.)
Los clusters de GPU más grandes conllevan un aumento de las necesidades de espacio y energía de los centros de datos. En la actualidad, la demanda mundial de capacidad de los centros de datos es de aproximadamente 60 GW; en 2030, podría ser de entre 3 y 5 veces mayorcon una parte significativa del aumento atribuida a la IA. Los campus de centros de datos de gigavatios que abarcan millones de metros cuadrados son cada vez más comunes. Ese tipo de energía y espacio es cada vez más difícil de conseguir en los mercados primarios, por lo que las empresas tecnológicas que forman modelos de IA están buscando nuevos mercados para acceder más fácilmente a terrenos y energía.
La inferencia de IA (utilizar el modelo entrenado para procesar nuevas entradas y generar salidas) tiene requisitos diferentes. Para aplicaciones específicas, como los vehículos autónomos, el comercio de alta frecuencia y la automatización industrial, la inferencia puede requerir baja latencia. En esos casos, pueden ser necesarias implantaciones periféricas.
Construcción adaptada a la ubicación
Cumplir los requisitos de potencia y terreno de la formación de modelos de IA requiere un sólido equipo inmobiliario con experiencia en el desarrollo en nuevos mercados. Con despliegues en Más de 60 mercados únicos en todo el mundo, tenemos la experiencia y los conocimientos necesarios para triunfar en una amplia variedad de lugares. Como Director de Marketing y Producto Phillip Marangella explicó en un artículo sobre el suministro allí donde los clientes necesiten capacidad: "Es importante reconocer qué tienen en común mercados dispares y en qué pueden diferir... Aunque puede haber muchas soluciones compartidas en todos los mercados, es muy valioso saber cómo ofrecer resultados en lugares, culturas y comunidades diversas."
El apoyo a implantaciones de diversos tamaños y ubicaciones requiere una cadena de suministro dinámica. Nuestra experiencia y conocimientos abarcan una amplia gama de tamaños y tipos de desarrollo. Llevamos a cabo implantaciones en el límite de los 2 MW, así como implantaciones a hiperescala de más de 200 MW. Construimos soluciones totalmente nuevas, reutilizamos instalaciones existentes o nos asociamos cuando es necesario para acelerar la entrada en nuevos mercados de todo el mundo. Nuestra cadena de suministro de confianza nos permite abastecernos rápidamente en todo el mundo, eliminando los problemas logísticos que suelen asociarse a las regiones de difícil acceso. Aprovechamos un enfoque de base de diseño flexible para identificar, evaluar y ejecutar en todo el mundo las mejores prácticas de diseño, socios y tecnología.
Conclusión
Ya sea para el entrenamiento de modelos o para la inferencia, los requisitos únicos de las cargas de trabajo de IA están impulsando desarrollos significativos en nuevos mercados, así como nuevos avances en computación de borde. El éxito requiere un desarrollador con una profunda experiencia global en una amplia gama de tamaños y tipos de despliegue, una cadena de suministro dinámica y un compromiso con la sostenibilidad incluso donde es más difícil. Un desarrollador como EdgeConneX.
Próximamente en Construir a medida en un mundo de IA Series: