
随着过去12个月人工智能的日益普及,数据中心网络基础设施正被推向极限,企业和云运营商不断增加容量并寻求大规模基础设施改进以满足需求。数据中心运营的每个部分都预计支出会增加,包括数据中心交换机市场,根据海外最近的一份报告预测今年该市场将扩大50%。
虽然过去交换机市场的大部分增长来自前端网络,但AI的快速增长需要部署数千甚至数百个网络数千个加速节点。连接大型集群中的这些加速节点需要一个数据中心规模的结构,称为人工智能后端网络,它不同于主要用于连接通用服务器的传统前端网络。
A5互联www.a5idc.net这可能会迫使数据中心运营商重新布线部分数据中心,以针对云工作负载进行全面优化,从而可能增加数据中心的运行成本。
以太网还是InfiniBand?
数据中心交换机市场的一个关键决定是以太网或InfiniBand,这是数据中心中最常见的两种网络通信标准。InfiniBand因其极高的吞吐量、低延迟和可扩展性而越来越受到数据中心运营商的关注,所有这些都使其对高性能计算(HPC)和人工智能具有吸引力。
生产InfiniBand总线适配器和网络交换机的NVIDIA公司一段时间以来一直在推动该标准的技术熟练程度,但一些企业仍然不愿意采用该标准。以太网已经成为几代人的标准,虽然InfiniBand在某些领域可能具有更好的性能,但它也更昂贵、更复杂,并且存在与基础设施的互操作性问题。
以太网也在不断发展以满足人工智能的需求,由Linux基金会主办的超以太网联盟(UEC)成立,其创始成员包括AMD、博通、思科、英特尔等。UEC旨在通过采用数据包喷射(其中同时使用每个通信交换)来减少尾部延迟,从而改进人工智能和HPC的以太网堆栈架构。该联盟正在研究其他升级。
以太网的兴起
据称,预计以太网将在未来三年内占据最大的收入份额。有人可能会说以太网的速度比InfiniBand领先一代。然而,网络速度并不是唯一的因素。拥塞控制和自适应路由机制也很重要。
以太网还将在第2层和第3层云服务提供商(CSP)中占据更高的市场份额,预计到2029年,这些提供商的年收入将超过100亿美元。虽然第1层CSP将满足大部分人工智能需求,但较低的预计一级通信服务提供商将开始提供以人工智能为中心的企业套餐,以满足不断增长的本地需求。
随着更多数据中心采用800Gb/s标准,人工智能网络的网络速度也将得到提高。到2025年,这预计将成为大多数后端网络端口的标准,即第一批端口商业化两年后。