国内通用人工智能企业MiniMax近期正式对外公布,目前团队正在全力推进旗下M3大模型与H3端侧模型和国产AI加速芯片的全栈适配工作,配套的大规模国产算力集群建设也已经进入收尾阶段,很快就将正式上线投入运行,这也标志着MiniMax的AI算力供给体系,即将完成重要的国产化升级。
很多AI行业的从业者都清楚,大模型的训练和运行高度依赖高性能算力集群的支撑,此前国内不少AI企业的算力集群,核心加速芯片大多依赖海外进口产品,供应链的稳定性很容易受到外部因素的影响。MiniMax这次推进M3和H3模型的国产芯片适配,就是要把大模型的完整运行链路,从底层算力芯片到上层模型推理全部跑通在国产算力体系上,搭建起一套完全自主可控的大模型算力运行体系。
MiniMax旗下的M3大模型,是面向云端复杂场景打造的通用大模型,拥有极强的通用语义理解、多模态处理和复杂任务推理能力,目前已经在大量企业级场景落地使用,服务了数十万企业用户的各类AI业务需求。而H3端侧模型则是专门面向手机、智能汽车、边缘计算设备打造的轻量化大模型,能在端侧设备本地运行,不用依赖云端网络连接,就能给用户提供流畅的本地AI服务。这两款模型覆盖了云端和端侧两大核心AI场景,完成它们和国产芯片的全栈适配,意味着MiniMax的全系列AI产品,都能在国产算力底座上稳定运行。
为了顺利推进这次适配工作,MiniMax的技术团队提前和国内多家主流国产AI加速芯片厂商展开了深度技术对接,从底层算子优化、计算图适配,到上层模型的性能调优,进行了全链条的联合调试。针对国产芯片的硬件架构特点,团队对M3大模型的训练框架和推理引擎都做了针对性的定制优化,把大模型在国产芯片上的算力利用率提升到了行业领先水平,确保M3大模型在国产算力集群上的训练效率和推理响应速度,都能达到和主流进口芯片集群相当的使用体验。
针对H3端侧模型,适配团队也做了大量针对性的轻量化优化工作,在不损失模型核心能力的前提下,进一步压缩了模型的运行资源占用,让H3模型能流畅地运行在各类搭载国产AI加速芯片的端侧设备上,同时保持极低的运行功耗,给用户带来流畅的本地AI交互体验。目前H3模型已经完成了多款主流国产端侧AI芯片的适配验证,运行效果完全达到了预期目标。
和模型适配同步推进的,就是MiniMax的大规模国产算力集群建设工作。目前整个算力集群的机房基础设施建设、国产AI加速芯片的上架部署、集群网络调试等环节都已经进入收尾阶段,很快就能正式上线投入运行。这个大规模国产算力集群全部采用国产AI加速芯片作为核心算力底座,完全不依赖进口加速芯片,集群的整体算力规模可以支撑M3大模型的全周期训练和大规模云端推理服务,能完全满足MiniMax接下来一段时间的大模型迭代和对外服务的算力需求。
MiniMax相关技术负责人表示,推进大模型和国产芯片的适配,落地大规模国产算力集群,是MiniMax构建自主可控算力体系的关键一步。后续团队还会持续优化M3和H3模型在国产算力芯片上的运行性能,进一步提升国产算力集群的运行效率,同时还会和更多国产芯片厂商展开深度合作,拓展适配更多不同架构的国产AI加速芯片,不断完善整个国产算力生态的适配覆盖度。
随着这套大规模国产算力集群正式上线运行,MiniMax也将成为国内少数拥有全栈自主可控国产算力支撑的AI大模型企业,这不仅能大幅提升企业自身算力供应链的稳定性,也将为国内AI产业的国产化生态建设,提供一个经过实际大模型运行验证的标杆性落地案例。
关注
463文章
55814浏览量
478998免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
如有疑问请发送邮件至:bangqikeconnect@gmail.com