最近的当红炸子鸡DeepSeek,无论是行业内还是行业外都在研究。毕竟现在各行各业都想利用AI为自己服务,图像处理领域也不例外。于是便有很多人向我们咨询RK3588 DeepSeek有没有“搞头”?
首先回答一下:仅靠RK3588自身是不现实的!但是可以外挂高算力模块。
DeepSeek的作用主要是作为一个前端决策大脑,在图像处理时可以帮我们对图像处理板处理的数据进行智能化决策,是实现全自动化作业的步骤之一。
要达到这个目的,需要的数据不可估量,因此越是大参数版本的DeepSeek模型越好,像完整版的DeepSeek模型671B的参数量级,以RK3588现在6.0TOPS的算力来看,显然不可能。
不久前有工程师成功在RK3588上部署了DeepSeek,但也仅仅是跑起来了DeepSeek R1(Qwen2 1.5B)模型。1.5B什么概念,也就能处理处理轻量级的文字任务,而且也不能做到快速实时响应。除了算力问题,模型的移植也是难点,很多网络层,瑞芯微的平台并不支持。
但这至少表明,在RK3588上运行DeepSeek是能够实现的,只是被自身硬件所限制。
如果在RK3588图像处理板的基础上外挂高算力模块,打造一个更高算力的RK3588图像处理板,理论上就能实现DeepSeek高参数模型的应用。
目前这个方向,我们整个团队也在深入研究,相信很快就会有结果。
免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
如有疑问请发送邮件至:bangqikeconnect@gmail.com