神雲科技配AMD第六代EPYC，筑牢智能体AI算力底座

近期，神雲科技完成了搭载第六代AMD EPYC服务器处理器的全新算力基础设施部署，整套系统专门面向智能体AI（Agentic AI）的运行特点优化，能给自主规划、多步执行的新一代AI应用提供更适配的算力支撑，让智能体不用再卡在算力瓶颈上，跑得更快更稳。

很多人可能对智能体AI有点陌生，它和我们平时常用的聊天AI不一样：普通的大语言模型只能根据用户的提问单次输出结果，而智能体AI是能自己“动起来”的AI——比如接到“帮我整理上周全公司的销售数据，生成报表并同步给相关负责人”的指令，它会自己规划步骤，先去不同数据库里调取数据，自动清洗整理，生成可视化报表，最后找到对应联系人完成发送，全程不用人一步步指挥。但这类AI要跑起来，对算力的要求和普通大模型完全不同，它需要同时处理大量并行的任务调度、数据检索、多工具调用，过去很多通用算力平台跑智能体任务，经常出现调度卡顿、多任务排队的情况，效率提不上来。

神雲科技这次选用的第六代AMD EPYC处理器，刚好精准踩中了智能体AI的核心算力需求。这款处理器单颗最多集成192个核心，相当于把近两百个高性能计算单元塞进了一颗芯片里，能同时并行处理上百个智能体的任务调度请求，不会出现多任务挤在一起抢资源的情况。而且它的内存带宽比上一代产品提升了近70%，智能体在不同数据库之间来回调取数据的时候，不用长时间等待数据传输，整个流程的响应速度直接快了一大截。针对智能体最常用的向量检索、工具调用、逻辑推理这些场景，处理器还做了专门的指令集优化，不用额外加太多硬件加速卡，就能跑出很高的运行效率，大幅降低智能体部署的综合成本。

这套新基础设施落地之后，最直观的变化就是智能体的运行效率大幅提升。过去跑一个复杂的多步骤智能体任务，可能要等几十秒才能出结果，现在在这套平台上，同样的任务几秒就能完成。比如面向企业的智能办公助手，过去同时服务几十个员工就会出现排队卡顿，现在这套新集群能轻松同时支撑上千个智能体并行运行，每个用户的请求都能得到快速响应。而且整套平台还做了软硬协同的深度优化，神雲科技基于AMD的开源软件生态，把智能体常用的框架、工具链都提前做了适配，企业拿到手不用自己花几个月时间做底层适配，直接就能把自己的智能体业务部署上去，大幅缩短落地周期。

针对不同规模的客户需求，这套平台还支持灵活的弹性扩展。不管是几台服务器就能跑起来的中小团队智能体应用，还是需要成百上千台节点支撑的超大规模智能体集群，都能按需调配算力资源，不用为了未来的需求提前投入大量成本。同时整套系统的能效比也做了大幅优化，和传统通用算力平台相比，跑同样的智能体任务，能省下近40%的电力消耗，长期运行下来能帮企业省下不少电费成本。

现在智能体AI正在从概念演示快速走向大规模落地，越来越多的企业开始用自主运行的AI助手替代重复的人工工作。神雲科技这套搭载第六代AMD EPYC的算力基础设施，相当于给智能体AI搭好了一条顺畅的“高速算力通道”，让新一代自主AI能真正跑起来、用起来，实实在在落地到各行各业的日常业务里。

• 处理器 处理器 关注

  关注

  68

  文章

  20485

  浏览量

  257438