9月10日,奕斯伟计算开发者伙伴大会在北京亦庄举办。大会以“绿色、开放、融合”为主题,汇聚了EICT领域的专家、学者等重磅嘉宾,共同探讨AI时代背景下RISC-V的发展机遇。Imagination作为重要生态合作伙伴受邀出席活动,与奕斯伟等业界伙伴携手加速RISC-V在各行各业的深度融合和应用落地。
活动现场,Imagination产品管理高级总监Stephen Barton从芯片IP的角度,分享了Imagination 如何通过RSIC-V和PowerVR助力边缘生成式AI的发展。
首先,他表示,深度学习已成为推动大型计算机工作的有效方法,这一点在传统的高性能计算方法中是无法实现的。而边缘设备并非大型计算机,未来AI在小型计算机上将如何发展?对此,他探讨了两种方式,一是通过更大的计算机、晶体管调度、芯粒(chiplet)堆叠、减少数值方法等提升计算性能。另一种是确保计算可以轻松扩展,并且是通用的。RISC-V则是很好的示例,作为一个不断发展的开放标准,专注于RISC-V解决方案可以让你充分利用系统的潜力。同时,CPU是通用的,可以用于多种场景。
在边缘端,功耗、带宽等资源受限,更需要确保边缘计算的高效扩展。当运行生成式AI推理时,可能专注于峰值TOPS和带宽,游戏也可能会占用大量的GPU资源,同时还可能有一些加密操作占用了大量CPU时间。为了保证通用性运行工作负载,并减少系统的核数量,可以通过NPU牺牲一些灵活性以实现高性能;也可以通过GPU牺牲一些芯片面积来获得更好的PPA并扩展加速能力。
与此同时,RISC-V在边缘计算中也发挥着重要作用。Stephen讲到,向量引擎和向量扩展已成为标准的一部分。当涉及到机器学习工作负载时,RISC-V具有很大的灵活性,不需要API可直接使用。同时AI领域中RISC-V具有最低的面积开销,等等。
最后,Stephen特别提及到Imagination与奕斯伟、SiFive的合作——奕斯伟EIC77系列,涵盖单Die RISC-V边缘计算芯片EIC7700及更高算力版本EIC7700X,双 Die RISC-V AI PC 芯片 EIC7702 及更高算力版本 EIC7702X。该系列中的图形和计算加速功能由Imagination的GPU IP、SiFive的CPU IP,以及奕斯伟计算的专有神经网络单元NPU无缝集成而成,可为从机器视觉应用(如行为识别和人脸识别)到大型语言模型等各种边缘计算应用提供出色的性能。同时 Stephen 表示将全力支持奕斯伟提出并倡导的 RDI 生态系统建设。
未来Imaginaiton期待与更多伙伴合作,在边缘计算、AI PC和AI加速等领域打造更多高性能产品,共同推动RISC—V数字基础设施生态创新和产业发展。
-
gpu
+关注
关注
28文章
4795浏览量
129498 -
AI
+关注
关注
87文章
31845浏览量
270671 -
imagination
+关注
关注
1文章
577浏览量
61494
发布评论请先 登录
相关推荐
聚云科技荣获亚马逊云科技生成式AI能力认证 助力企业加速生成式AI应用落地
研华科技携手森云智能助力边缘AI应用落地
Freepik携手Magnific AI推出AI图像生成器
Imagination 引领边缘计算和AI创新,拥抱AI未来发展
![<b class='flag-5'>Imagination</b> 引领<b class='flag-5'>边缘</b>计算和<b class='flag-5'>AI</b>创新,拥抱<b class='flag-5'>AI</b>未来发展](https://file.elecfans.com/web2/M00/4E/DC/poYBAGLCjeiALm_WAAAYmfR7Qec474.png)
中国开源软件推进联盟携手IBM发布《可信赖的企业级生成式AI白皮书》
MediaTek携手生态伙伴联合发布《生成式AI手机产业白皮书》
MediaTek举办天玑开发者大会MDDC2024,携手产业伙伴共创生成式AI新生态
![MediaTek举办天玑开发者大会MDDC2024,<b class='flag-5'>携手</b>产业<b class='flag-5'>伙伴</b>共创<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>新<b class='flag-5'>生态</b>](https://file1.elecfans.com/web2/M00/E1/97/wKgZomY5mP6AJ5TIAAEGdqnLaTI385.jpg)
MediaTek携手生态伙伴联合发布《生成式AI手机产业白皮书》,共同定义生成式AI手机
研华携手群联 共同打造边缘运算与工控应用生成式AI平台
![研华<b class='flag-5'>携手</b>群联 共同打造<b class='flag-5'>边缘</b>运算与工控应用<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>平台](https://file1.elecfans.com/web2/M00/DC/4E/wKgaomYrdBmAGZa2AAKAdYB8-Lw012.jpg)
携手打造开放AI生态,英特尔助力千行百业数智化变革
![<b class='flag-5'>携手</b>打造开放<b class='flag-5'>AI</b><b class='flag-5'>生态</b>,英特尔<b class='flag-5'>助力</b>千行百业数智化变革](https://file1.elecfans.com//web2/M00/CF/DE/wKgZomYiKeqAZJTaAAChubiMEzg122.png)
Imagination加入“无剑联盟” 携手玄铁共拓RISC-V繁荣生态
![<b class='flag-5'>Imagination</b>加入“无剑联盟” <b class='flag-5'>携手</b>玄铁共拓RISC-V繁荣<b class='flag-5'>生态</b>](https://file.elecfans.com/web2/M00/4E/DC/poYBAGLCjeiALm_WAAAYmfR7Qec474.png)
评论