0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

META认为RISC-V定制加速器的风险很小

半导体产业纵横 来源:半导体产业纵横 2023-12-04 17:13 次阅读

服务器系统对RISC架构的追求正在加强。

许多人等了好几年才听到像 Meta 高级工程总监 Prahlad Venkatapuram 这样的人说出本周在 RISC-V 峰会上发表的内容:

“我们已经确定,RISC-V是我们前进道路上所有产品前进的方向。这不仅包括下一代视频转码器,还包括下一代推理加速器和训练芯片。”

他解释说,在过去4年中,他们不仅推出了硬件,而且还通过标准化的基于 RISC 的控制系统为未来的定制 RISC-V 芯片奠定了基础,并使其具有可扩展性,因此,Meta 为所有领域开发的任何 IP 都将适应并轻松连接到 NOC。

换句话说,Meta 有一个模板可以快速将任何此类新芯片投入生产,这对于那些寻求大规模 RISC-V 成功案例的人来说是一件大事。所有这一切都是在高端 GPU 供不应求的时候进行的,而且价格也有所反映。

Venkatapuram 表示,Meta 之所以选择 RISC,是因为需要加速所有“我们在 CPU 上无法完成的关键业务”,以及“服务器上的能效、性能和绝对低延迟”。他补充说,支持不同工作负载的灵活性和架构中的弹性也至关重要。

“无论何时我们设计或部署,都希望它能够存在 3-4 年,因此,必须具有弹性和可编程性——我们希望让软件负责我们如何使用硬件资源。”

他补充说,64 位寻址至关重要,内核中的矢量和 SIMD 功能也是必不可少的,并强调了深度定制的必要性。“很明显,RISC-V可以做所有这些事情;它是开放的,有强大的支持,有多个知识产权提供商,以及我们在过去 4-5 年中看到的不断发展的生态系统。但归根结底,定制是关键。”

仅基于 RISC-V 构建的视频转码硬件 Meta 就为定制部分提供了背景信息。根据 Venkatapuram 的说法,Meta 的可扩展视频处理器 (MSVP) 是 Meta 制作 RISC 之旅的起点,正在制作中,并处理其 Facebook、Messenger 和 Instagram 服务上 100% 的所有视频上传。“我们之前在 CPU 上这样做,但现在已经替换了其中的 85%,所以我们只使用了其中的 15%。”

真实的故事,应该引起处理器界注意的是,Meta 正在跳过无处不在的 GPU,并在 RISC-V 上构建 AI 推理和训练芯片。

目前,RISC-V AI处理器致力于在推理和训练中加速推荐模型。该架构对 8×8 网格的处理元素并不陌生,每个元素托管 2 个 RISC-V 内核(一个标量,一个向量)和一个用于控制的内核。标量和矢量内核与命令处理器同步,命令处理器与 Meta 开发的内置固定函数协同工作。

d18d61d2-90c8-11ee-939d-92fbcf53809c.png

除此之外,我们所知不多,但我们将寻求更多答案,包括 Meta 对 RISC-V 架构的生产量。

虽然所有这些都是有希望的,但也有一些挑战确实让人不得不停下来,尽管它们似乎并没有削弱Venkatapuram的乐观情绪。

尽管进行了大规模定制,但 Meta 仍然需要从现有的 IP 选项中获得更多。他解释说:“很少有产品能够将自定义指令和资源无缝集成到 RTP、模拟器、软件工具和编译器中。另一个挑战是各个供应商缺乏互操作性,但他没有提供深入的细节。归根结底,我们感觉到挑战并非不可克服。”

最重要的障碍之一是对矩阵扩展的支持,尤其是当 Meta 寻求在 RISC-V 上构建更多生产 AI 工作负载时。他解释说,矩阵数学是人工智能的一个关键组成部分,虽然RISC-V有向量扩展,但矩阵没有标准的扩展。他引用了这方面的工作(许多供应商,包括Stream Computing和T-Head Semi),但最终,无论他们想出什么都应该标准化。

Venkatapuram 强调了更广泛的生态系统支持的重要性,从对所有主要库和工具的支持到硬件生态系统。

RISC-V由于其开放标准性质,有可能吸引更多的第三方工具、软件、外围设备供应商,而不仅仅是专有的ISA,但这种潜力尚未完全实现。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 加速器
    +关注

    关注

    2

    文章

    800

    浏览量

    37916
  • 服务器
    +关注

    关注

    12

    文章

    9205

    浏览量

    85557
  • RISC-V
    +关注

    关注

    45

    文章

    2292

    浏览量

    46210

原文标题:META认为RISC-V定制加速器的风险很小

文章出处:【微信号:ICViews,微信公众号:半导体产业纵横】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    RISC-V能否复制Linux 的成功?》

    型的内核、加速器以及所需的各种模块汇集在一起。”他表示,“RISC-V ISA在此发挥了关键作用,它开拓了一个创新的领域”。任何人只需下载ISA规范就可以在设计中使用内核,而无需与任何人签署协议。从这
    发表于 11-26 20:20

    RISC-V,即将进入应用的爆发期

    RISC-V是一种开放标准指令集架构 (ISA),最初由加州大学伯克利分校的研究人员于2010年开发。业界称,这种开源特性为芯片设计者提供了极大的灵活性,可以根据具体需求定制AI加速器。 而AI
    发表于 10-31 16:06

    RISC-V跑AI算法能加速吗?

    现在好多ARM单片机都带机器学习加速RISC-V有这方面的硬件加速吗?
    发表于 10-10 22:14

    RISC-V拥有巨大市场潜力的原因

    AI技术深度融合,例如Meta基于RISC-V架构推出AI推理加速器,高通与谷歌合作推出基于RISC-V架构的智能穿戴芯片等。 3、多元化应用:RI
    发表于 09-30 14:20

    2024 RISC-V 中国峰会:华秋电子助力RISC-V生态!

    掌握RISC-V芯片的应用与开发,电子发烧友作为紧密合作伙伴,依托650万+开发者用户,全力构建包含RISC-V开发者社区、RISC-V技术商业生态圈及RISC-V创新
    发表于 08-26 16:46

    rIsc-v的缺的是什么?

    RISC-V设计简洁,但在某些应用场景下,其性能可能略低于专用指令集架构(如ARM),尤其是在没有内置浮点单元或媒体处理单元等特定硬件加速单元的情况下。这是因为RISC-V默认只配备非常少的指令,需要
    发表于 07-29 17:18

    RISC-V适合什么样的应用场景

    设计使得开发者可以灵活选择所需的指令集和模块,以满足嵌入式系统的各种性能要求。 3. 人工智能(AI)和机器学习(ML) 高性能计算:RISC-V结合AI加速器或协处理,可以提供高效的人工智能计算
    发表于 07-29 17:16

    RISC-V在中国的发展机遇有哪些场景?

    RISC-V结合AI加速器,可以在AI领域提供高效的计算解决方案。 定制化需求:RISC-V允许添加专门的加速器或协处理
    发表于 07-29 17:14

    为什么要有RISC-V

    RISC-V(“RISC five”)的目标是成为一个通用的指令集架构(ISA):①、它要能适应包括从最袖珍的嵌入式控制,到最快的高性能计算机等各种规模的处理。②、它应该能兼容各种
    发表于 07-27 15:05

    浅析RISC-V领先ARM的优势

    、教育以及初创企业中的使用。 定制化能力强: RISC-V采用了模块化设计的思路,不同的组件可以灵活进行裁剪与增加。这使得RISC-V架构可以根据具体的应用需求进行灵活定制,优化并满足
    发表于 06-27 08:45

    晶心科技与Arteris合作加速RISC-V的SoC设计创新

    Arteris, Inc.是一家领先的系统 IP 供应商,致力于加速片上系统(SoC)的创建,晶心科技是RISC-V International组织的创始成员和主要成员,也是高性能/低功耗RISC-V处理
    的头像 发表于 05-30 10:18 529次阅读

    RISC-V的MCU与ARM对比

    扩展,实现特定功能或加速器。 性能与功耗 RISC-VRISC-V适合用于高效设计实现,其全部RISC-V指令不超过50个,因此其内核面积更小,相应的功耗更低。此外,
    发表于 05-27 15:58

    RISC-V在服务方面应用与发展前景

    需求。融合RISC-V、扩展指令集、Chiplet(小芯片组)等技术,发展新型服务认为是中国的一个机遇。 此外,RISC-V在服务方面
    发表于 04-28 09:04

    RISC-V有哪些优点和缺点

    和使用其代码。这种开放性促进了全球范围内的创新与合作,有助于推动RISC-V生态系统的快速发展。 模块化设计:RISC-V支持模块化可配置的子集,使得开发者可以根据具体的应用需求进行灵活定制。这种
    发表于 04-28 09:03

    Rivos完成2.5亿美元A轮融资,用于研发AI工作负载 RISC-V计算加速

    Rivos创立于2021年,总部设于美国加利福尼亚州,专注于设计和生产RISC-V芯片。尽管在A轮融资后未披露芯片详细架构,但据称其结合了高性能RISC-V CPU和数据并行加速器(GPGPU)以满足AI工作负载需求。
    的头像 发表于 04-17 10:16 475次阅读