9月10日,奕斯伟计算开发者伙伴大会在北京亦庄举办。大会以“绿色、开放、融合”为主题,汇聚了EICT领域的专家、学者等重磅嘉宾,共同探讨AI时代背景下RISC-V的发展机遇。Imagination作为重要生态合作伙伴受邀出席活动,与奕斯伟等业界伙伴携手加速RISC-V在各行各业的深度融合和应用落地。
活动现场,Imagination产品管理高级总监Stephen Barton从芯片IP的角度,分享了Imagination 如何通过RSIC-V和PowerVR助力边缘生成式AI的发展。
首先,他表示,深度学习已成为推动大型计算机工作的有效方法,这一点在传统的高性能计算方法中是无法实现的。而边缘设备并非大型计算机,未来AI在小型计算机上将如何发展?对此,他探讨了两种方式,一是通过更大的计算机、晶体管调度、芯粒(chiplet)堆叠、减少数值方法等提升计算性能。另一种是确保计算可以轻松扩展,并且是通用的。RISC-V则是很好的示例,作为一个不断发展的开放标准,专注于RISC-V解决方案可以让你充分利用系统的潜力。同时,CPU是通用的,可以用于多种场景。
在边缘端,功耗、带宽等资源受限,更需要确保边缘计算的高效扩展。当运行生成式AI推理时,可能专注于峰值TOPS和带宽,游戏也可能会占用大量的GPU资源,同时还可能有一些加密操作占用了大量CPU时间。为了保证通用性运行工作负载,并减少系统的核数量,可以通过NPU牺牲一些灵活性以实现高性能;也可以通过GPU牺牲一些芯片面积来获得更好的PPA并扩展加速能力。
与此同时,RISC-V在边缘计算中也发挥着重要作用。Stephen讲到,向量引擎和向量扩展已成为标准的一部分。当涉及到机器学习工作负载时,RISC-V具有很大的灵活性,不需要API可直接使用。同时AI领域中RISC-V具有最低的面积开销,等等。
最后,Stephen特别提及到Imagination与奕斯伟、SiFive的合作——奕斯伟EIC77系列,涵盖单Die RISC-V边缘计算芯片EIC7700及更高算力版本EIC7700X,双 Die RISC-V AI PC 芯片 EIC7702 及更高算力版本 EIC7702X。该系列中的图形和计算加速功能由Imagination的GPU IP、SiFive的CPU IP,以及奕斯伟计算的专有神经网络单元NPU无缝集成而成,可为从机器视觉应用(如行为识别和人脸识别)到大型语言模型等各种边缘计算应用提供出色的性能。同时 Stephen 表示将全力支持奕斯伟提出并倡导的 RDI 生态系统建设。
未来Imaginaiton期待与更多伙伴合作,在边缘计算、AI PC和AI加速等领域打造更多高性能产品,共同推动RISC—V数字基础设施生态创新和产业发展。
-
gpu
+关注
关注
28文章
4667浏览量
128549 -
AI
+关注
关注
87文章
29666浏览量
268007 -
imagination
+关注
关注
1文章
566浏览量
61239
发布评论请先 登录
相关推荐
评论