国产 AI 大模型 DeepSeek 以出色的性价比和高效的模型技术,迅速成为全球 AI 关注的焦点。Firefly 开源团队率先实现 AIBOX 系列产品对 DeepSeek-R1 的全面适配。
R1 模型性能数据
DeepSeek-R1 在后训练阶段大规模使用了强化学习技术,在仅有极少标注数据的情况下,极大提升了模型推理能力,目前基于开源的 R1 模型具有 1.5B-70B 可选,这些蒸馏模型更合适进行本地部署在端侧使用,用于各行各业的项目落地。
AIBOX 实机演示
Firefly 开源团队对 DeepSeek-R1 系列的蒸馏模型进行移植,完成 AIBOX 系列产品对 DeepSeek-R1 的全面适配,以下是实机演示:
通过视频可以看出 DeepSeek-R1-Distill-Qwen-1.5B 在深度思考阶段思路清晰,并给出准确回答。同时,从硬件性能方面看,AIBOX在推理阶段高达到29.187 token/s,能够实现准确、快速的 AI 对话。
模型实测情况
以下是 AIBOX 产品的实测结果:
DeepSeek-R1 产品体验
AIBOX 系列产品具备高性能、低功耗、环境适应性强等特点,算力覆盖 6-157 TOPS,通过搭配多样化深度学习算法,为多个智慧行业进行数字化赋能,AIBOX 全系列产品已在 Firefly 官方平台上线,立即体验属于自己的本地化 DeepSeek!
免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
如有疑问请发送邮件至:bangqikeconnect@gmail.com