欢迎阅读我们新系列的第一篇博客、 人工智能世界中的 "量体裁衣.在 EdgeConneX、 建立数据中心以满足在 EdgeConneX,根据独特的客户规格建造数据中心是我们的传统;我们从 2009 年就开始这样做了。这些年来,我们客户的规格发生了很大变化。随着云迁移的加速,提供商需要在战略要地建立更大的设施。随着消费者转向流媒体,提供商需要在边缘部署。在这些转变中,我们都为客户提供了支持。

人工智能模型训练和推理的位置要求
人工智能模型的威力取决于训练过程中使用的参数数量。模型是在连接的图形处理器(GPU)集群上训练的,随着参数数量的增加,集群的规模也会增加。(Meta的 Llama 3.1例如,它有 4050 亿个参数,是通过 16,000 个英伟达 H100 GPU 集群训练出来的。该公司的下一代模型 Llama 4 拥有 2 万亿个参数集群进行训练。 超过 100,000 个 H100 GPU.)
更大的 GPU 集群会导致数据中心的电力和空间需求增加。目前,全球对数据中心容量的需求约为 60 GW;到 2030 年,这一需求可能是 的 3-5 倍。其中很大一部分是由于人工智能。占地数百万平方英尺的千兆瓦级数据中心园区正变得越来越普遍。这种电力和空间在初级市场越来越难以获得,因此培训人工智能模型的科技公司正在寻找新的市场,以便更容易获得土地和电力。
人工智能推理(使用训练有素的模型处理新输入并生成输出)有不同的要求。对于自动驾驶汽车、高频交易和工业自动化等特定应用,推理可能需要低延迟。在这些情况下,边缘部署可能是必要的。
根据地点要求建造

支持各种规模和地点的部署需要动态供应链。 我们的经验和专业知识涵盖各种开发规模和类型。我们既有 ~2 兆瓦范围内的边缘部署,也有 200 多兆瓦范围内的超大规模部署。我们建造全新的解决方案,重新利用现有设施,或在必要时建立合作伙伴关系,以加速进入全球新市场。我们值得信赖的供应链可在全球范围内快速采购,消除了通常与难以进入地区相关的物流挑战。我们利用灵活的 "设计基础"(Basis of Design)方法,在全球范围内确定、评估和执行最佳设计实践、合作伙伴和技术。
底线
无论是模型训练还是推理,人工智能工作负载的独特要求正在推动新市场的重大发展以及新的边缘计算进步。要想取得成功,就需要开发商在各种部署规模和类型、动态供应链方面拥有深厚的全球经验,并致力于实现可持续发展,即使在难度较大的领域也是如此。像 EdgeConneX 这样的开发商。
下一篇 人工智能世界中的 "量体裁衣系列: