在人工智能(AI)技术飞速发展的今天,AI大模型的部署需求正迅速从云端向端侧和边缘侧设备迁移。这一转变对AI芯片的性能、功耗和响应速度提出了前所未有的挑战。正是在这样的背景下,后摩智能凭借其创新的技术实力,推出了基于存算一体架构的边端大模型AI芯片——后摩漫界™️M30,引领了AI芯片领域的新一轮革命。
后摩漫界™️M30芯片以其高达100TOPS的最高算力和仅12W的典型功耗,成功实现了高性能与低功耗的完美融合。这一特性使得M30芯片能够轻松应对边端侧大模型部署对高效率和实时性的严苛要求,为AI技术在更多领域的应用提供了强大的硬件支持。
作为一款通用的边端大模型AI芯片,M30能够支持多种大模型,包括但不限于ChatGLM、Llama2、通义千问等。在Qwen1.5-7B-Chat大模型上,M30的运行性能可达15-20 Tokens/s,这一表现足以证明其在处理复杂AI任务时的卓越能力。
为了进一步提升部署的便捷性,后摩智能同步推出了基于M30芯片的智算模组(SoM)和力谋®️AI加速卡。智算模组(SoM)支持PCIe EP模式,以其小巧的体积、强劲的性能和极低的功耗,成为小型化设备和功耗敏感嵌入式场景的理想选择。而力谋®️AI加速卡作为标准的半高半长PCIe加速卡,则能在PC、一体机和服务器中实现快速部署,支持主动散热和被动散热两种模式,确保设备在不同环境下的稳定运行。
后摩漫界™️M30芯片的推出,不仅为传统的端侧和边缘侧设备注入了强大的大模型能力,还成功适配了包括X86、ARM在内的多种主流处理器。这使得M30芯片能够广泛应用于AI PC、边缘AI一体机、智能座舱、商用显示、智能融合网关,NAS(网络附加存储)等领域,为AI技术在更多领域的深入应用注入了强大动力。
展望未来,后摩智能将继续秉承创新、务实、高效的理念,不断推出更多高性能、低功耗的AI芯片产品,为AI技术的发展和应用做出更大的贡献。同时,我们也期待更多企业和机构能够加入到AI技术的研发和应用中来,共同推动AI技术的繁荣发展。
-
AI
+关注
关注
87文章
27492浏览量
265151 -
人工智能
+关注
关注
1781文章
45005浏览量
232402 -
后摩智能
+关注
关注
0文章
15浏览量
1125
发布评论请先 登录
相关推荐
耐能推出最新的边缘AI服务器及内置耐能AI芯片的PC设备
![](https://file1.elecfans.com/web2/M00/EB/91/wKgaomZZjwCAN_uBAAymuuihSJQ815.png)
risc-v多核芯片在AI方面的应用
开发者手机 AI - 目标识别 demo
Cerebras推出性能翻倍的WSE-3 AI芯片
最强AI芯片发布,Cerebras推出性能翻倍的WSE-3 AI芯片
![最强<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>发布,Cerebras<b class='flag-5'>推出</b>性能翻倍的WSE-3 <b class='flag-5'>AI</b><b class='flag-5'>芯片</b>](https://file1.elecfans.com/web2/M00/C4/EA/wKgZomX461KAdf2EAAAabCGsL_c588.png)
![](https://file1.elecfans.com/web2/M00/C1/20/wKgaomXTJROASUxYAAbccsQ1Hvk670.png)
![](https://file1.elecfans.com/web2/M00/BB/24/wKgaomWTvjKAfPpDAAWrpACxLMQ967.png)
![](https://file1.elecfans.com/web2/M00/BA/5D/wKgZomWTtniAVT9oAAmGs-W8Ecc058.png)
![](https://file1.elecfans.com/web2/M00/AE/5A/wKgaomVUeTiAa7euAAIi-9CGemU919.jpg)
评论