作者:Arm 基础设施事业部服务器生态系统开发总监 Bhumik Patel
云计算需求在人工智能 (AI) 时代的爆发式增长,推动了开发者寻求性能优化且高能效的解决方案,以降低总体拥有成本 (TCO)。Arm 致力于通过 Arm Neoverse 平台满足不断变化的需求,Neoverse 也正因此迅速成为开发者作为构建未来的云基础设施的首选计算平台。
Google Cloud 携手 Arm,设计了针对实际性能进行调优的定制芯片。作为其首款基于 Neoverse 平台的定制 CPU,Google Axion 的性能优于传统处理器,并具有更出色的性能、效率与扩展性。双方的合作为开发者带来了更优选择,并共同推动了云计算创新。
在 Google Cloud 内外均备受青睐
Google Axion 处理器基于 Arm Neoverse V2 平台构建,可为各种工作负载提供卓越性能和能效,包括云原生应用、高要求的 AI 模型以及大量 Google Cloud 服务,例如 Compute Engine、Google Kubernetes Engine (GKE)、Batch、Dataproc 、Dataflow,以及目前处于预览阶段的 AlloyDB 和 Cloud SQL。
从内容流媒体到企业级数据服务,各行业的企业都在使用基于 Arm 架构的 Axion 处理器,并在计算效率、可扩展性和 TCO 方面实现了显著改进。ClickHouse、Dailymotion、Databricks、Elastic、loveholidays、MongoDB、Palo Alto Networks、Paramount Global、Redis Labs 和 Starburst 等 Google Cloud 的客户都已取得了变革性的成果。例如,Spotify 通过使用基于 Axion 的 C4A 虚拟机,使其性能提高了约 250%。
突破性能局限
Google Axion 处理器在 AI 推理工作负载和通用计算方面均有出色表现。针对 AI 推理,Axion 的专用优化可显著提高性能,使 AI 工作负载能够更快、更高效地运行。自然语言处理、计算机视觉和推荐系统等应用均可得益于此。AI 开发者可以利用到 Arm Kleidi 的优势,这是一组轻量级、高性能的开源库。Kleidi 通过与热门框架集成,使得开发者无需额外的开发工作,即可显著提升在 Arm 平台上运行的 AI 应用的性能。
Axion 处理器利用 Arm 平台的先进架构功能,使开发者能够在不牺牲速度或性能的情况下规模化部署复杂的 AI 模型。
例如,与基于 x86 架构的方案相比,针对 Axion 的 MLPerf DLRMv2 基准测试的全精度性能提高了三倍,展示了其在推荐系统中的卓越能力。许多用户更青睐 FP32 精度,以避免因采用 INT8 等低精度格式而导致的准确性问题,从而减少因这类问题引起的销售损失、客户满意度降低以及品牌声誉受损。
另一个示例则是,AI 聊天机器人有时会提供过时或不准确的答案,检索增强生成 (RAG) 方法提供了功能强大的解决方案来提高其准确性和相关性。测试显示,与 x86 架构方案相比,当 RAG 应用在 Axion 处理器上运行时,其性能可最高提升 2.5 倍。(有关该示例的详细内容,敬请期待后续文章!)
从下图可以看到,Axion 处理器使通用工作负载实现了显著的性能提升。通过优化高吞吐量和低延迟,Axion 处理器实现了更快的应用响应时间、增强用户体验,并提高资源利用率,是 Web 服务器、数据库、分析和容器化微服务的理想选择。
与此同时,得益于基于 Axion 的 C4A 虚拟机将原生 Neoverse 核心的性能与每个 vCPU 的充足内存带宽相结合,其特别适用于高性能计算 (HPC) 工作负载。HPC 开发者可以充分利用 Neoverse 平台上所提供的开源及商用科学计算应用和框架的丰富生态系统,包括 Arm Compiler for Linux 和 Arm Performance Libraries。Arm 在行业标准的碰撞和冲击仿真应用 Altair OpenRadioss 上的测试显示,在基于 Axion 的 C4A 虚拟机上运行具有显著的性能优势。
加速云迁移进程
为了支持和加速开发者在云端采用 Arm 架构,Arm 近期发布了全面的云迁移资源。其核心是新的 Cloud Migration Resource Hub(云迁移资源中心),其中涵盖了超过 100 个详细的 Learning Path 教程,旨在指导开发者如何跨多个平台无缝迁移常见工作负载。与此同时,支持 Axion 的独立软件供应商 (ISV) 也在不断增加,包括 applause、Couchbase、Honeycomb、IBM Instana Observability、Verve 和 Viant 等知名企业。Arm Software Ecosystem Dashboard 可以让开发者更易了解适用于 Neoverse 平台的主要开源和商用软件的可用版本和推荐版本。并在其软件开发的伊始,便能确保软件的兼容性和平稳运行。
这些资源使有兴趣采用或迁移到基于 Axion 的 C4A 虚拟机的开发者能够获得 Arm 的社区支持,例如专为迁移而设的 GitHub 代码仓库等。Arm 的云迁移专家还可提供直接的工程协助和个性化支持,尤其是对于企业级迁移,以便助力迁移项目顺利且成功的过渡到基于 Axion 的解决方案。
写在最后
Google Cloud 推出 Axion 处理器意在为客户提供更多样化、更高性能的计算选择。得益于 Arm 架构和 Google 的定制芯片设计,Axion 可为从高要求的 AI 推理和 HPC 应用到通用和云原生服务等各种工作负载提供卓越性能和效率,通过与 Arm 的云迁移资源和强大的软件生态系统相结合,全方位赋能开发者在 Arm 平台上构建计算的未来!
关注
68文章
19669浏览量
232596免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
如有疑问请发送邮件至:bangqikeconnect@gmail.com