0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

后摩智能引领AI芯片革命,推出边端大模型AI芯片M30

要长高 2024-06-28 15:13 次阅读

人工智能AI)技术飞速发展的今天,AI大模型的部署需求正迅速从云端向端侧和边缘侧设备迁移。这一转变对AI芯片的性能、功耗和响应速度提出了前所未有的挑战。正是在这样的背景下,后摩智能凭借其创新的技术实力,推出了基于存算一体架构的边端大模型AI芯片——后摩漫界™️M30,引领了AI芯片领域的新一轮革命。

后摩漫界™️M30芯片以其高达100TOPS的最高算力和仅12W的典型功耗,成功实现了高性能与低功耗的完美融合。这一特性使得M30芯片能够轻松应对边端侧大模型部署对高效率和实时性的严苛要求,为AI技术在更多领域的应用提供了强大的硬件支持。

作为一款通用的边端大模型AI芯片,M30能够支持多种大模型,包括但不限于ChatGLM、Llama2、通义千问等。在Qwen1.5-7B-Chat大模型上,M30的运行性能可达15-20 Tokens/s,这一表现足以证明其在处理复杂AI任务时的卓越能力。

为了进一步提升部署的便捷性,后摩智能同步推出了基于M30芯片的智算模组(SoM)和力谋®️AI加速卡。智算模组(SoM)支持PCIe EP模式,以其小巧的体积、强劲的性能和极低的功耗,成为小型化设备和功耗敏感嵌入式场景的理想选择。而力谋®️AI加速卡作为标准的半高半长PCIe加速卡,则能在PC、一体机和服务器中实现快速部署,支持主动散热和被动散热两种模式,确保设备在不同环境下的稳定运行。

后摩漫界™️M30芯片的推出,不仅为传统的端侧和边缘侧设备注入了强大的大模型能力,还成功适配了包括X86、ARM在内的多种主流处理器。这使得M30芯片能够广泛应用于AI PC、边缘AI一体机、智能座舱、商用显示、智能融合网关,NAS网络附加存储)等领域,为AI技术在更多领域的深入应用注入了强大动力。

展望未来,后摩智能将继续秉承创新、务实、高效的理念,不断推出更多高性能、低功耗的AI芯片产品,为AI技术的发展和应用做出更大的贡献。同时,我们也期待更多企业和机构能够加入到AI技术的研发和应用中来,共同推动AI技术的繁荣发展。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    30072

    浏览量

    268333
  • 人工智能
    +关注

    关注

    1791

    文章

    46820

    浏览量

    237457
  • 后摩智能
    +关注

    关注

    0

    文章

    22

    浏览量

    1177
收藏 人收藏

    评论

    相关推荐

    AI浪潮已来!炬芯科技发布新一代AI音频芯片,能效比和AI算力大幅度提升

    电子发烧友原创 章鹰   11月5日,在深圳会展中心7号馆内,炬芯科技董事长兼CEO周正宇博士带来了《AI芯片的未来》演讲,他对AI
    的头像 发表于 11-06 09:11 2159次阅读
    <b class='flag-5'>端</b>侧<b class='flag-5'>AI</b>浪潮已来!炬芯科技发布新一代<b class='flag-5'>端</b>侧<b class='flag-5'>AI</b>音频<b class='flag-5'>芯片</b>,能效比和<b class='flag-5'>AI</b>算力大幅度提升

    AI for Science:人工智能驱动科学创新》第4章-AI与生命科学读后感

    阅读这一章,我深感人工智能与生命科学的结合正引领着一场前所未有的科学革命,以下是我个人的读后感: 1. 技术革新与生命科学进步 这一章详细阐述了人工
    发表于 10-14 09:21

    智能与联想携手共创AI PC新纪元

    近日,国内领先的存算一体AI芯片创新企业智能与全球知名科技企业联想集团正式签署战略合作协议,标志着双方在
    的头像 发表于 08-02 16:11 469次阅读

    智能与联想集团签署战略协议 共同探索AI PC技术创新与应用

    能力,共同致力于推动 AI算力向边缘侧和侧的下沉,为终端用户带来更高效、更智能的产品与服务。 智能
    的头像 发表于 07-31 17:24 833次阅读

    存算一体AI芯片企业智能完成数亿元战略融资

    近日,国内领先的存算一体AI 芯片创新企业智能完成数亿元人民币的战略融资,由中国移动旗下北京中移数字新经济产业基金、上海中移数字转型产业
    的头像 发表于 07-15 15:32 374次阅读

    2024 WAIC智能芯片及多模态大模型论坛 爱芯通元AI处理器助力打造普惠智能

    造就普惠智能生活”为主题,汇聚了芯片、大模型智能制造等领域的专家与意见领袖,共同分享大模型时代的创新机遇及落地成果。 爱芯元智提出打造基
    的头像 发表于 07-15 10:18 438次阅读
    2024 WAIC<b class='flag-5'>智能</b><b class='flag-5'>芯片</b>及多模态大<b class='flag-5'>模型</b>论坛 爱芯通元<b class='flag-5'>AI</b>处理器助力打造普惠<b class='flag-5'>智能</b>

    能效比较GPGPU高一个数量级,国产AI芯片AI模型高质量落地

    电子发烧友网报道(文/吴子鹏)2024年世界人工智能大会(以下简称:WAIC 2024)依然是一场“百模大战”,不过有一些很明显的变化是:新推出AI模型更加注重用户体验;
    的头像 发表于 07-10 16:28 1780次阅读
    能效比较GPGPU高一个数量级,国产<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>让<b class='flag-5'>端</b>侧<b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>高质量落地

    国科微携全系AI芯片亮相2024世界人工智能大会

    7月4日,2024世界人工智能大会(以下简称“WAIC2024”)在上海开幕。作为国内领先的集成电路设计企业,国科微携全系AI芯片精彩亮
    的头像 发表于 07-05 11:07 659次阅读

    智能推出模型AI芯片M30,展现出存算一体架构优势

    电子发烧友网报道(文/李弯弯)近日,智能推出基于存算一体架构的
    的头像 发表于 07-03 00:58 4087次阅读

    AI芯片哪里买?

    AI芯片
    芯广场
    发布于 :2024年05月31日 16:58:19

    最强AI芯片发布,Cerebras推出性能翻倍的WSE-3 AI芯片

    近日,芯片行业的领军企业Cerebras Systems宣布推出革命性的产品——Wafer Scale Engine 3,该产品成功将现有最快AI
    的头像 发表于 03-19 09:31 1000次阅读
    最强<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>发布,Cerebras<b class='flag-5'>推出</b>性能翻倍的WSE-3 <b class='flag-5'>AI</b><b class='flag-5'>芯片</b>

    cubemx ai导入onnx模型压缩失败了怎么解决?

    cubemx ai导入onnx模型压缩失败。请问我怎么解决
    发表于 03-19 07:58

    智能助力中国移动构建算力网络

    智能助力中国移动构建算力网络,MWC展示模型运行成果
    的头像 发表于 03-14 14:48 595次阅读
    <b class='flag-5'>后</b><b class='flag-5'>摩</b><b class='flag-5'>智能</b>助力中国移动构建算力网络

    英伟达将用AI设计AI芯片

    AI芯片行业资讯
    深圳市浮思特科技有限公司
    发布于 :2024年02月19日 17:54:43

    AI模型怎么解决芯片过剩?

    AI模型
    电子发烧友网官方
    发布于 :2024年01月02日 15:42:05