是德科技如何应对AI数据中心扩展瓶颈

三项创新首度公开！构建高效 AI 数据中心，从网络仿真开始

AI 正以前所未有的速度重塑数据中心架构。每秒数万亿字节的训练流量、数千 GPU 的并行通信，让传统测试方法陷入瓶颈——GPU 闲置、网络拥塞、训练失败屡见不鲜。

AI 创新，正在重构数据中心基础架构

近几年，多模态学习、多智能体系统（Multi-agent Systems,MAS）和高速 GPU 互联技术快速发展，推动 AI 应用在医疗、气候建模、金融等多个领域实现飞跃。这些突破也带来了前所未有的挑战，对网络速度、吞吐量及计算性能的要求正持续飙升。

图 1. AI 正迎来技术爆发的关键转折点，未来三年各项硬件标准与性能将实现跨代跃升。

动辄数十万美金，AI 数据中心成本远高于传统数据中心架构

一台 AI 训练服务器通常配备 8 块 GPU，总成本超过 40 万美元。而这还不包括电力、冷却、高速光互联等运维成本，占运营支出的 30% 至 50%。

此外，每个 AI 模型的云端存储成本，每月可能高达 1,000 至 10,000 美元。

模型训练往往动辄耗时数周甚至数月，任何缩短训练周期的机会都意味着数百万美元的 GPU 运算资源释放。

但问题来了：你的基础设施是否真正高效，能支撑这样的提速？

三大核心挑战，阻碍 AI 数据中心扩展

#挑战一：

AI 流量密集度远超传统应用

AI 训练负载需要在数千颗 GPU 之间高速传输 TB 级数据，通信模式集中且延迟敏感。例如，集合通信（如 all-to-all）容易引发入流拥塞，导致某些数据流延迟，从而拖慢整个训练任务。网络性能的关键不再是“平均带宽”，而是“最长传输时间”。

如图 2 所示，即使大多数 GPU 数据流能在 150 毫秒内完成，只要存在一个延迟至 190 毫秒的节点，整个算法执行也必须等到这最后一个完成，最终总耗时拉长至 190 毫秒。

图 2. 即使大多数数据传输迅速，少数延迟较高的流也会决定 AI 训练任务的整体完成时间。

#挑战二：

系统高度互联，风险被放大

在强耦合架构中，任一组件故障（如光模块异常、网卡配置错误）都可能引发连锁反应，导致任务失败和资源浪费。如果没有全栈可视性和真实世界的仿真，这些问题往往在传统测试中难以被发现。

#挑战三：

仅靠组件级验证已无法保障系统稳定

即使每个组件都符合标准，也可能因 AI 流量特性而在系统层级上失败。尽管某些收发器在组件层面满足 IEEE 合规性要求，但在系统级运行中，特别是在处理突发 AI 流量时，仍可能出现性能问题。研究显示，超过 40% 的 AI 训练失败归因于网络或组件效率不足。

图 3. 超过一半的 GPU 时间花在等待数据上，近一半的 AI 训练任务失败归因于网络与计算资源问题

系统级仿真是你的新的超能力

系统级仿真使网络架构师能够跳出理论假设，深入了解基础设施在真实 AI 流量与控制机制下的实际运行行为。

数据中心的系统级性能依赖于系统级可视化能力——也就是模拟 GPU 之间的通信、观察队列对（Queue Pair）行为，并分析突发流量和拥塞点在整个技术栈中（从物理层到应用层）造成的影响。数据中心的性能优化，离不开系统级可视化能力。通过模拟 GPU 通信、观察队列行为、识别流量突发点，才能在物理层到应用层之间全面掌控网络运行状况。

这一完整的测试流程通常包括：

•部署高密度网络测试平台。

•配置流量生成器，以太比特级速度模拟 AI 集合通信操作（如 all-reduce、broadcast、gather）的真实流量行为。

•使用性能分析工具，衡量系统级关键性能指标（KPI），例如任务完成时间、GPU 利用率、网络吞吐量和延迟。

通过这一方法，网络架构师可以快速定位 GPU 闲置时间积累的位置、识别次优的拥塞控制设置，或发现引入延迟的网卡与收发器组合。此外，还可在无需部署大规模 GPU 集群的前提下，灵活测试路由策略、微调拥塞控制参数（如优先级流控 PFC 和显式拥塞通知 ECN），并评估新协议或架构变更的效果。

某大型云服务提供商已使用是德科技的Keysight AI（KAI）数据中心构建器对其新一代 AI 训练集群的网络设计进行基准测试，目标是确保其高速以太网不仅能够支持当前的 GPU 型号，也能够兼容即将发布的新一代 GPU。

图 4. 是德科技 Keysight AI（KAI）数据中心构建器通过仿真 AI 工作负载以验证系统级性能指标的界面截图。

迈向 1.6T AI 数据中心：验证方法必须与时俱进

为了支持下一代 AI 工作负载的规模和速度，数据中心正在向 1.6T 以太网过渡。

随着 224 Gbps 电通道和 PAM4 调制成为常态，这些高速链路引入了更严格的时序窗口、更低的信噪比以及对互连变化更高的灵敏度。在如此高的速度下，验证信号完整性和端到端性能不能仅仅停留在组件级规格上。即使是符合标准的设备，在突发性 AI 工作负载下，也可能会遭遇边缘 FEC 性能或间歇性故障。铜缆、光纤、有源电缆和无源 DAC 等互连的多样性日益增加，使验证变得更加复杂。

传统的手动和基于脚本的验证难以应对 1.6T 及以上速度的复杂性。全面的自动化测试策略对于识别仅在动态、高流量 AI 训练工作负载下才会出现的系统级瓶颈至关重要。

Keysight 推出的 1.6T 互连和网络性能测试仪 ITS (Interconnect Test System) 自动化测试平台，提供了完整的第1层到第3层全栈验证能力，包含：

第 1 层 ：FEC 前误码率（Pre-FEC BER）、FEC 裕度、抖动容限

第 2 层 ：CMIS 协议兼容性、数字光学监控（DOM）、通道映像完整性

第 3 层 ：RoCEv2 流量建模、拥塞传播、流量公平性

为了支持可重复、可扩展的测试，像1.6TE 互连和网络性能测试仪这样的集中式测试平台可以重复使用配置、自动化通过/失败分析并加快测试吞吐量。

是德科技1.6TE 互连和网络性能测试仪具备全面的硬件功能，覆盖第 1 层至第 3 层所需的各项测试能力，可广泛应用于高速以太网、光纤与铜缆互连、网络设备以及整体网络基础设施的验证。

配套的互连测试系统（ITS）软件可帮助架构师快速识别边缘场景下的系统行为，并在实际大规模部署条件下，对各种电缆、网卡（NIC）、收发器和交换机进行压力测试，确保系统稳定可靠运行。

图 5. Keysight Interconnect Test System (ITS) 软件数字光监控页面的屏幕截图

构建面向未来的 AI 数据中心

构建一个真正具备大规模运行能力的人工智能数据中心，绝不仅仅是“完成检查清单”那样简单，而是要为不可预测的挑战做好设计准备，并应对未来指数级的增长需求。

随着人工智能不断重塑现代数据中心的架构，网络架构师正是连接愿景与执行的关键角色。无论您正在排查尾延迟、验证光互连，还是规划迈向 1.6T 的下一个飞跃，有一点是确定的：网络是支撑 AI 创新的核心。

而您团队是否具备对每条数据路径进行仿真、基准测试与系统级可视化的能力，将直接决定基础设施能否真正成功扩展。

关于是德科技

是德科技（NYSE：KEYS）启迪并赋能创新者，助力他们将改变世界的技术带入生活。作为一家标准普尔 500 指数公司，我们提供先进的设计、仿真和测试解决方案，旨在帮助工程师在整个产品生命周期中更快地完成开发和部署，同时控制好风险。我们的客户遍及全球通信、工业自动化、航空航天与国防、汽车、半导体和通用电子等市场。我们与客户携手，加速创新，创造一个安全互联的世界。