最近的当红炸子鸡DeepSeek,无论是行业内还是行业外都在研究。毕竟现在各行各业都想利用AI为自己服务,图像处理领域也不例外。于是便有很多人向我们咨询RK3588+DeepSeek有没有“搞头”?
首先回答一下:仅靠RK3588自身是不现实的!但是可以外挂高算力模块。
DeepSeek的作用主要是作为一个前端决策大脑,在图像处理时可以帮我们对图像处理板处理的数据进行智能化决策,是实现全自动化作业的步骤之一。
要达到这个目的,需要的数据不可估量,因此越是大参数版本的DeepSeek模型越好,像完整版的DeepSeek模型671B的参数量级,以RK3588现在6.0TOPS的算力来看,显然不可能。
不久前有工程师成功在RK3588上部署了DeepSeek,但也仅仅是跑起来了DeepSeek R1(Qwen2 1.5B)模型。1.5B什么概念,也就能处理处理轻量级的文字任务,而且也不能做到快速实时响应。除了算力问题,模型的移植也是难点,很多网络层,瑞芯微的平台并不支持。
但这至少表明,在RK3588上运行DeepSeek是能够实现的,只是被自身硬件所限制。
如果在RK3588图像处理板的基础上外挂高算力模块,打造一个更高算力的RK3588图像处理板,理论上就能实现DeepSeek高参数模型的应用。
目前这个方向,我们整个团队也在深入研究,相信很快就会有结果。
-
AI
+关注
关注
91文章
41295浏览量
302667 -
RK3588
+关注
关注
8文章
592浏览量
7570 -
DeepSeek
+关注
关注
2文章
855浏览量
3412
发布评论请先 登录
瑞芯微RK3588 RKNN模型推理环境部署与功能测试技巧(上)
技术分享 | RK3588如何搭建preempt_rt+ethercat
RK3588的GMAC 时钟怎么一直没有?
RK3588操控终端
RK3588采集Cameralink图像快速搭建系统办法
【技术分享】RK3588如何搭建xenomai3+ethercat
瑞芯微RK3588与RK3576技术参数详解
RK这2款旗舰芯片RK3588 PK RK3576,谁是最优选
OpenHarnomy5.1下对RK3588的编译环境搭建
RK3576 vs RK3588:为何越来越多的开发者转向RK3576?
RK3588S和RK3588S2差异说明
RK3588+DeepSeek有没有“搞头”?
评论