/ ai资讯

Arm率先适配腾讯混元开源模型,助力端侧AI创新开发

发布时间:2025-08-08 09:46:53

本周初,腾讯混元宣布开源四款小尺寸模型(参数分别为 0.5B、1.8B、4B、7B),可无缝运行于消费级显卡上。作为全球应用范围最为广泛的计算平台,Arm 在开源首日就已率先实现适配,携手合作伙伴共同赋能端侧人工智能 (AI) 部署,助力本土开发者实现 AI 应用创新!

这次的首日开源适配是双方再次携手提升端侧应用功能和用户体验的又一例证。去年,Arm 将 Arm KleidiAI 技术与腾讯混元自研的 Angel 机器学习框架进行集成,从而提高移动端 AI 服务的推理性能和效率。得益于这一集成,混元大模型的预填充部分加速了 100%,而解码器的速度提高了 10%。

此次腾讯混元开源的四款模型可适用于笔记本电脑、手机、智能座舱、智能家居等低功耗场景,且支持垂直领域低成本微调,为开发者和企业提供更多尺寸的模型选择。四款模型均实现了对标业界同尺寸模型的性能表现,特别是在语言理解、数学、推理等领域尤为突出。目前,四款模型均已在 Github 和 Huggingface 等开源社区上线。

此外,对于开源方面的投入,双方秉持同样的热忱,开源是腾讯混元大模型长期坚持的方向,而 Arm 则在开源项目的支持上投入了大量的工程资源,并不断地扩大开源合作伙伴协作,致力于为全球超过 2,200 万基于 Arm 平台开发的开发者提供更多的获取资源和更高的性能,助力实现 AI 无处不在!

展望未来,Arm 将继续通过开源合作与技术创新,持续赋能开发者无缝获取底层硬件性能,进而实现更顺畅的创新开发,并携手合作伙伴构筑更加繁荣的开源生态,加速应用落地。

免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。

如有疑问请发送邮件至:bangqikeconnect@gmail.com