为何CPU是AI基础设施的核心

人工智能 (AI) 并非一种具有单一理想基础设施的单一工作负载。AI 涵盖了多样化的工作负载，需要系统层面的协同策略，才能高效且可扩展地提供性能。而在这一策略中，CPU 扮演着核心角色，它作为系统的智能层，统筹协调云端、数据中心、边缘乃至新兴物理 AI 系统中的各类计算资源。

这些是Futurum 最新报告《Arm 处于 AI 和数据中心变革的中心》的核心结论，该报告深入剖析了 AI 当前面临的关键转折点，并阐明了 Arm 在其中的核心作用。以下是报告提炼出的五个关键要点。

01AI 是一项系统挑战

尽管 AI 加速器常被热议，但 Futurum 的报告指出：真正决定 AI 规模化性能表现的，是整个系统的智能编排能力。无论是协调异构计算、管理数据流动，还是在功耗和成本限制下维持稳定性能，CPU 都在其中发挥着核心作用。正如报告所指出的，行业关注点正从“能堆多少原始算力”转向“如何智能地在不同环境之间编排算力”。

02CPU 是支撑 AI 运行的数据通道与核心枢纽

CPU 越来越多地承担起 AI 头节点的角色（也就是系统的“大脑”），承担协调与编排的职责，从数据供给、内存管理到安全策略执行和任务调度，无所不包。报告指出，在现代 AI 流水线中，每个加速器往往需要更多 CPU 资源协同工作，而非减少 CPU 资源数量。事实上，Arm 架构的 CPU 已广泛嵌入到 SmartNIC、DPU、NPU 以及各类网络设备中，用于高效卸载并管理 AI 工作负载。归根到底，CPU 不是 AI 系统的外围组件，而是至关重要的基础设施。

03能效比让 CPU 成为 AI 经济模型中的核心支柱

随着 AI 日益受到能耗供给及功耗上限的约束，“每瓦性能”已成为衡量成本效益与可持续性的决定性指标。Futurum 旗下 Signal65 的独立基准测试表明，Amazon Graviton4 相较于同级 x86 CPU 实现双位数性能提升，同时在总体拥有成本 (TCO) 上保持显著优势。这一结果凸显，基于 Arm 架构的 CPU 不仅在能效层面持续领先，也已在绝对性能上具备强劲竞争力。在能源约束日益严峻的背景下，能够实现单位功耗下最大吞吐的 CPU 正成为支撑 AI 规模化发展的关键战略资源。

04超大规模云服务提供商采用 Arm 架构 CPU

作为标准化部署平台，而非试验性探索

报告明确指出，超大规模云服务提供商对 Arm 架构 CPU 的部署已不再处于探索阶段。亚马逊云科技 (AWS)、微软、谷歌及 NVIDIA 正将 Arm 架构 CPU 广泛部署于云基础设施、定制芯片及融合型 AI 数据中心中。如今，出货到头部超大规模云服务提供商的算力中，有近 50% 是基于 Arm 架构。与此同时，根据Arm 最新季度财报，其来自于数据中心客户的权利金营收实现翻倍增长，主流超大规模云服务提供商所使用的核心数亦持续攀升。整体来看，基础设施正在向 Arm 架构实现长期、战略性转型。

05推理计算、边缘计算与物理 AI 的发展

让 CPU 的核心战略地位愈加凸显

随着 AI 重心从训练转向推理，智能化不断向边缘计算及物理世界延伸，CPU 的核心战略地位愈发突显。报告强调，边缘 AI、机器人、汽车系统及自主设备依赖的是实时、系统级的计算能力，而非单纯的模型推理。特别是边缘 AI 场景中，系统将更多依赖 CPU 以实现实时计算，而不仅仅是执行 AI 模型。与此同时，当今绝大多数机器人及物理 AI 系统在感知、控制及整体系统协调上，均依赖基于 Arm 架构的处理器。

综合来看，Futurum 的报告清晰传递了一个信号：AI 基础设施正在经历结构性变革。未来的赢家，将不再仅由单一突破性加速器所决定，而在于谁能构建出在功耗、成本与扩展性约束下依然高效协同的完整系统。而 CPU 及其所赋能的系统智能，正是未来发展的核心。

欲深入了解上述结论背后的数据、基准测试结果与架构分析，请点击阅读原文，下载 Futurum 完整报告《Arm 处于 AI 和数据中心变革的中心》。

• ARM ARM 关注

  关注

  135

  文章

  9558

  浏览量

  392124