0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

携手生态伙伴,Imagination GPU助力边缘生成式AI

颖脉Imgtec 2024-09-11 08:06 次阅读

9月10日,奕斯伟计算开发者伙伴大会在北京亦庄举办。大会以“绿色、开放、融合”为主题,汇聚了EICT领域的专家、学者等重磅嘉宾,共同探讨AI时代背景下RISC-V的发展机遇。Imagination作为重要生态合作伙伴受邀出席活动,与奕斯伟等业界伙伴携手加速RISC-V在各行各业的深度融合和应用落地。

活动现场,Imagination产品管理高级总监Stephen Barton从芯片IP的角度,分享了Imagination 如何通过RSIC-V和PowerVR助力边缘生成式AI的发展。

首先,他表示,深度学习已成为推动大型计算机工作的有效方法,这一点在传统的高性能计算方法中是无法实现的。而边缘设备并非大型计算机,未来AI在小型计算机上将如何发展?对此,他探讨了两种方式,一是通过更大的计算机、晶体管调度、芯粒(chiplet)堆叠、减少数值方法等提升计算性能。另一种是确保计算可以轻松扩展,并且是通用的。RISC-V则是很好的示例,作为一个不断发展的开放标准,专注于RISC-V解决方案可以让你充分利用系统的潜力。同时,CPU是通用的,可以用于多种场景。

在边缘端,功耗、带宽等资源受限,更需要确保边缘计算的高效扩展。当运行生成式AI推理时,可能专注于峰值TOPS和带宽,游戏也可能会占用大量的GPU资源,同时还可能有一些加密操作占用了大量CPU时间。为了保证通用性运行工作负载,并减少系统的核数量,可以通过NPU牺牲一些灵活性以实现高性能;也可以通过GPU牺牲一些芯片面积来获得更好的PPA并扩展加速能力。

与此同时,RISC-V在边缘计算中也发挥着重要作用。Stephen讲到,向量引擎和向量扩展已成为标准的一部分。当涉及到机器学习工作负载时,RISC-V具有很大的灵活性,不需要API可直接使用。同时AI领域中RISC-V具有最低的面积开销,等等。

b9b0f1d0-6fd1-11ef-bb4b-92fbcf53809c.png

最后,Stephen特别提及到Imagination与奕斯伟、SiFive的合作——奕斯伟EIC77系列,涵盖单Die RISC-V边缘计算芯片EIC7700及更高算力版本EIC7700X,双 Die RISC-V AI PC 芯片 EIC7702 及更高算力版本 EIC7702X。该系列中的图形和计算加速功能由Imagination的GPU IP、SiFive的CPU IP,以及奕斯伟计算的专有神经网络单元NPU无缝集成而成,可为从机器视觉应用(如行为识别和人脸识别)到大型语言模型等各种边缘计算应用提供出色的性能。同时 Stephen 表示将全力支持奕斯伟提出并倡导的 RDI 生态系统建设。

未来Imaginaiton期待与更多伙伴合作,在边缘计算、AI PC和AI加速等领域打造更多高性能产品,共同推动RISC—V数字基础设施生态创新和产业发展。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4667

    浏览量

    128549
  • AI
    AI
    +关注

    关注

    87

    文章

    29666

    浏览量

    268007
  • imagination
    +关注

    关注

    1

    文章

    566

    浏览量

    61239
收藏 人收藏

    评论

    相关推荐

    研华科技携手森云智能助力边缘AI应用落地

    研华深知产业数智化不是“单机游戏”,更需要“生态合作”,基于此,研华集结生态伙伴,共荣物联产业生态圈。今天小A君将为您介绍研华在边缘
    的头像 发表于 09-14 18:00 1140次阅读

    Freepik携手Magnific AI推出AI图像生成

    近日,设计资源巨头Freepik携手Magnific AI,共同推出了革命性的AI图像生成器——Freepik Mystic,这一里程碑
    的头像 发表于 08-30 16:23 1040次阅读

    GE医疗与亚马逊云科技达成战略合作,通过生成AI加速医疗健康领域转型

    GE医疗已选择亚马逊云科技作为其战略云服务合作伙伴,致力于推出全新的定制化基础模型,加速创新医疗应用快速开发。   GE医疗将利用亚马逊云科技的机器学习和生成AI技术,训练和部署临床
    发表于 08-29 16:38 245次阅读

    亚马逊云科技助力Shulex打造生成AI应用

    杭州数里行间科技有限公司(Shulex),作为全球领先的VOC(消费者洞察)市场AI SaaS解决方案提供商,携手亚马逊云科技,成功推出了基于生成
    的头像 发表于 08-14 16:27 455次阅读

    Imagination 引领边缘计算和AI创新,拥抱AI未来发展

    6月25日,2024“N+”AI互动创新论坛在南京举办,Imagination中国资深副总裁张晓波受邀出席。在主题演讲中,张晓波表示,Imagination作为图形、计算和边缘人工智能
    的头像 发表于 06-28 08:28 487次阅读
    <b class='flag-5'>Imagination</b> 引领<b class='flag-5'>边缘</b>计算和<b class='flag-5'>AI</b>创新,拥抱<b class='flag-5'>AI</b>未来发展

    中国开源软件推进联盟携手IBM发布《可信赖的企业级生成AI白皮书》

    今天,IBM 在北京举行“AI for Business论坛”,与客户、合作伙伴生态联盟等行业参与者一起,探讨如何将生成
    的头像 发表于 05-23 18:26 844次阅读

    联发科携生态伙伴发布《生成AI手机产业白皮书》,引领手机生成AI风潮

    AI生态战略以及终端生成AI应用开发的一站解决方案——“天玑
    的头像 发表于 05-08 17:46 508次阅读
    联发科携<b class='flag-5'>生态</b><b class='flag-5'>伙伴</b>发布《<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>手机产业白皮书》,引领手机<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>风潮

    MediaTek携手生态伙伴联合发布《生成AI手机产业白皮书》

    、腾讯混元、vivo等生态伙伴*,联合发布《生成AI手机产业白皮书》,共同定义了“生成
    的头像 发表于 05-08 16:48 377次阅读

    联发科联合生态伙伴推出《生成AI手机产业白皮书》,生成AI手机发展路线明确了!

    深入探讨,同时,联发科展示了其天玑AI生态战略以及终端生成AI应用开发的一站解决方案——“天
    的头像 发表于 05-07 16:34 390次阅读
    联发科联合<b class='flag-5'>生态</b><b class='flag-5'>伙伴</b>推出《<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>手机产业白皮书》,<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>手机发展路线明确了!

    MediaTek举办天玑开发者大会MDDC2024,携手产业伙伴共创生成AI生态

    ,MediaTek联动天玑平台合作伙伴,共启“天玑AI先锋计划”;联合业界生态伙伴发布《生成
    发表于 05-07 10:58 203次阅读
    MediaTek举办天玑开发者大会MDDC2024,<b class='flag-5'>携手</b>产业<b class='flag-5'>伙伴</b>共创<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>新<b class='flag-5'>生态</b>

    MediaTek携手生态伙伴联合发布《生成AI手机产业白皮书》,共同定义生成AI手机

    Lab、腾讯混元、vivo等生态伙伴*,联合发布《生成AI手机产业白皮书》,共同定义了“生成
    发表于 05-07 10:25 167次阅读

    研华携手群联 共同打造边缘运算与工控应用生成AI平台

    安全可靠且经济实惠的GenAI模型地端设备,以加速推进工业4.0的发展,并引领工业5.0人机互动的新时代。   生成人工智能(Generative AI/GenAI)的出现,让AI
    发表于 04-26 17:28 215次阅读
    研华<b class='flag-5'>携手</b>群联 共同打造<b class='flag-5'>边缘</b>运算与工控应用<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>平台

    携手打造开放AI生态,英特尔助力千行百业数智化变革

    还分享了在互联网、教育、制造及医疗等垂直领域的诸多应用落地,深度展示其携手生态伙伴推动千行百业数智化变革的进程。 构建高效解决方案,释放企业AI潜力 2023年被业界视为生成
    的头像 发表于 04-19 16:23 444次阅读
    <b class='flag-5'>携手</b>打造开放<b class='flag-5'>AI</b><b class='flag-5'>生态</b>,英特尔<b class='flag-5'>助力</b>千行百业数智化变革

    联想携手京东,紧扣大模型和生成AI技术

    联想与京东携手,紧扣大模型和生成AI技术带来的产业机遇,在多个领域展开深入合作。
    的头像 发表于 04-12 10:27 584次阅读

    Imagination加入“无剑联盟” 携手玄铁共拓RISC-V繁荣生态

    3月14日,由达摩院举办的第二届玄铁RISC-V生态大会在深圳举行。Imagination受邀出席大会,现场宣布加入由达摩院发起成立的“无剑联盟”,致力于与各成员伙伴共拓RISC-V生态
    的头像 发表于 03-16 08:26 353次阅读
    <b class='flag-5'>Imagination</b>加入“无剑联盟” <b class='flag-5'>携手</b>玄铁共拓RISC-V繁荣<b class='flag-5'>生态</b>