0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

后摩智能引领AI芯片革命,推出边端大模型AI芯片M30

要长高 2024-06-28 15:13 次阅读

人工智能AI)技术飞速发展的今天,AI大模型的部署需求正迅速从云端向端侧和边缘侧设备迁移。这一转变对AI芯片的性能、功耗和响应速度提出了前所未有的挑战。正是在这样的背景下,后摩智能凭借其创新的技术实力,推出了基于存算一体架构的边端大模型AI芯片——后摩漫界™️M30,引领了AI芯片领域的新一轮革命。

后摩漫界™️M30芯片以其高达100TOPS的最高算力和仅12W的典型功耗,成功实现了高性能与低功耗的完美融合。这一特性使得M30芯片能够轻松应对边端侧大模型部署对高效率和实时性的严苛要求,为AI技术在更多领域的应用提供了强大的硬件支持。

作为一款通用的边端大模型AI芯片,M30能够支持多种大模型,包括但不限于ChatGLM、Llama2、通义千问等。在Qwen1.5-7B-Chat大模型上,M30的运行性能可达15-20 Tokens/s,这一表现足以证明其在处理复杂AI任务时的卓越能力。

为了进一步提升部署的便捷性,后摩智能同步推出了基于M30芯片的智算模组(SoM)和力谋®️AI加速卡。智算模组(SoM)支持PCIe EP模式,以其小巧的体积、强劲的性能和极低的功耗,成为小型化设备和功耗敏感嵌入式场景的理想选择。而力谋®️AI加速卡作为标准的半高半长PCIe加速卡,则能在PC、一体机和服务器中实现快速部署,支持主动散热和被动散热两种模式,确保设备在不同环境下的稳定运行。

后摩漫界™️M30芯片的推出,不仅为传统的端侧和边缘侧设备注入了强大的大模型能力,还成功适配了包括X86、ARM在内的多种主流处理器。这使得M30芯片能够广泛应用于AI PC、边缘AI一体机、智能座舱、商用显示、智能融合网关,NAS网络附加存储)等领域,为AI技术在更多领域的深入应用注入了强大动力。

展望未来,后摩智能将继续秉承创新、务实、高效的理念,不断推出更多高性能、低功耗的AI芯片产品,为AI技术的发展和应用做出更大的贡献。同时,我们也期待更多企业和机构能够加入到AI技术的研发和应用中来,共同推动AI技术的繁荣发展。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    27492

    浏览量

    265151
  • 人工智能
    +关注

    关注

    1781

    文章

    45005

    浏览量

    232402
  • 后摩智能
    +关注

    关注

    0

    文章

    15

    浏览量

    1125
收藏 人收藏

    评论

    相关推荐

    耐能推出最新的边缘AI服务器及内置耐能AI芯片的PC设备

    - 耐能的边缘 AI 服务器 KNEO 330 为中小企业带来 30-40% 的成本节省,同兼顾隐私和安全性。- 耐能的边缘 GPT AI 芯片 KL830 可完全应用于
    的头像 发表于 06-05 10:21 231次阅读

    AI芯片哪里买?

    AI芯片
    芯广场
    发布于 :2024年05月31日 16:58:19

    risc-v多核芯片AI方面的应用

    RISC-V多核芯片AI方面的应用主要体现在其低功耗、低成本、灵活可扩展以及能够更好地适应AI算法的不同需求等特点上。 首先,RISC-V适合用于高效设计实现,其内核面积更小,功耗更低,使得它能
    发表于 04-28 09:20

    开发者手机 AI - 目标识别 demo

    Lite的API接口实现主要功能; Mindspore Lite为Openharmony AI推理框架,为上层应用提供统一的AI推理接口,可以完成在手机等侧设备中的模型推理过程;
    发表于 04-11 16:14

    Cerebras推出性能翻倍的WSE-3 AI芯片

    Cerebras Systems近日推出的Wafer Scale Engine 3(WSE-3)芯片无疑在人工智能领域掀起了一场革命。这款芯片
    的头像 发表于 03-20 11:32 542次阅读

    最强AI芯片发布,Cerebras推出性能翻倍的WSE-3 AI芯片

    近日,芯片行业的领军企业Cerebras Systems宣布推出革命性的产品——Wafer Scale Engine 3,该产品成功将现有最快AI
    的头像 发表于 03-19 09:31 674次阅读
    最强<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>发布,Cerebras<b class='flag-5'>推出</b>性能翻倍的WSE-3 <b class='flag-5'>AI</b><b class='flag-5'>芯片</b>

    cubemx ai导入onnx模型压缩失败了怎么解决?

    cubemx ai导入onnx模型压缩失败。请问我怎么解决
    发表于 03-19 07:58

    英伟达将用AI设计AI芯片

    AI芯片行业资讯
    深圳市浮思特科技有限公司
    发布于 :2024年02月19日 17:54:43

    AI模型怎么解决芯片过剩?

    AI模型
    电子发烧友网官方
    发布于 :2024年01月02日 15:42:05

    AI模型可以设计电路吗?

    AI模型
    电子发烧友网官方
    发布于 :2024年01月02日 15:09:29

    #芯片 #AI 世界最强AI芯片H200性能大揭秘!

    芯片AI
    深圳市浮思特科技有限公司
    发布于 :2023年11月15日 15:54:37

    AI智能呼叫中心

    随着科技的飞速发展,人工智能(AI)已经成为了各行各业的关键技术,其中,AI智能呼叫中心的出现,给传统的呼叫中心带来了巨大的改变与创新,本文将探讨A
    发表于 09-20 17:53

    爱芯元智上榜“中国AI芯片企业”先锋企业TOP 30

    近日,2023全球AI芯片峰会(GACS 2023)在深圳成功举办。会上重磅揭晓了2023年度「中国AI芯片企业」榜单,爱芯元智上榜「先锋企业TOP
    的头像 发表于 09-20 10:01 1026次阅读

    盘古ai模型用的什么芯片

    盘古ai模型用的什么芯片? 盘古AI模型是一种基于深度学习算法的人工智能技术,它是由中国互联
    的头像 发表于 08-31 09:01 2840次阅读

    AI芯片的诞生和发展背景 AI芯片发展的技术方向 AI芯片的发展趋势

    随着类ChatGPT人工智能技术的快速发展,AI模型作为重要的技术方向已经取得显著进展,应用场景不断拓展和渗透,全球科技企业纷纷入场角逐。然而,由此带来的算力瓶颈问题正越来越受到关注。AI
    发表于 08-16 10:11 3040次阅读