0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

智能座舱大模型,混合算力还是全靠端侧输出

E4Life 来源:电子发烧友 作者:周凯扬 2024-03-26 01:19 次阅读

电子发烧友网报道(文/周凯扬)除了传统的LLM模型外,不少垂直领域的大模型也在飞速发展,尤其是在汽车领域,越来越多的车企开始考虑在车内引入AI大模型。如今汽车此前由于车端算力的限制,大模型很难运行在智能座舱上,而全程联网跑的座舱大模型在使用体验上又有所欠缺。然而,随着新一代智能汽车算力硬件纷纷进入下一阶段,如今智能座舱开始在新车型上铺开。

理想Mind GPT

去年年底,理想发布了最新的OTA 5.0版本,率先为Max车型升级了AD MAX 3.0智能驾驶。然而,这一次OTA还包括了最新的智能空间SS 3.0,为Max、Pro和Air车型正式引入了Mind GPT这一智能座舱多模态认知大模型。

理想从零构建了Mind GPT的原始基座模型,并采用了自研的TaskFormer神经网络架构,Mind GPT使得理想语音助手“理想同学”获得了听感和自行能力全面升级,并基于其重点场景,定制了111个领域、1000种以上的专属能力,比如理解语义、多语种交流、模糊感知和行程安排规划等。

从中文大模型排行榜C-Eval网站上可以看到,12月4日发布的Mind GPT在当时斩获了闭源模型第一的成绩。尽管随后被荣耀、海思和vivo的大模型超过,但Mind GPT目前依然以89.7的成绩高居第四的位置。

可以看出,理想Mind GPT对于硬件的要求并不算高,从理想分享的Mind GPT推理引擎来看,其推理负载被分配给了云端GPT和端侧的NPU,从而降低智能座舱的算力要求,使得更多老车型也可以享受到大模型的完整体验。

蔚来NOMI GPT

蔚来宣称NOMI GPT是业内首家纯端侧部署的多模态感知大模型,新的NOMI借由这一大模型,可以在无需联网的前提下识别数千种物体,且做到快速响应,还可以根据非颜色类磁珠,完成氛围灯的颜色组合。由于是纯端侧处理,NOMI GPT做到了车主隐私数据不出车,提高了信息安全性。

之所以能做到纯端侧,自然离不开计算硬件的支撑。2024款蔚来全系车型均将采用全新的中央计算平台ADAM,在智舱上搭载了高通最新的骁龙8295智能座舱芯片。在5nm工艺和架构优化下,8295相较上一代8155在性能上有了巨大的提升,除了通用计算与图形处理的CPUGPU算力分别翻了2倍和3倍外,用于AI计算的NPU算力也提升了8倍,达到了30TOPS。

除此之外,蔚来的ADAM通过系统级创新实现了舱驾融合,不仅可以拓展算力,更可以实现跨域算力共享。如此一来,类似NOMI GPT这样的多模大模型端侧部署,就可以调用来自智驾芯片Orin X的算力,从而提高CPU、GPU和NPU的使用效率。

写在最后

可以看出,理想和蔚来在智能座舱大模型上采用了不尽相同的策略,理想的Mind GPT主打让所有L系列车主都能享受到大模型的智能空间,而蔚来则是追求极致的硬件算力,把一切推理计算都留在端侧。这两种方式都各有优劣,未来随着更多车企跟进智能座舱大模型,我们届时将看到究竟何种技术路线更受欢迎。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 智能汽车
    +关注

    关注

    30

    文章

    2924

    浏览量

    107772
  • 算力
    +关注

    关注

    1

    文章

    1042

    浏览量

    15098
  • 智能座舱
    +关注

    关注

    4

    文章

    994

    浏览量

    16522
  • 大模型
    +关注

    关注

    2

    文章

    2772

    浏览量

    3430
收藏 人收藏

    相关推荐

    普强信息深思大模型全面接入DeepSeek 深度赋能智能座舱智能客服

    普强在智能座舱智能客服等领域深耕多年,拥有海量专业化的数据,在基于DeepSeek进行训练和蒸馏领域专家模型时具备极大的优势。目前, 公司已完成DeepSeek
    的头像 发表于 03-04 11:31 321次阅读

    【一文看懂】什么是

    随着物联网(IoT)、人工智能和5G技术的快速发展,正逐渐成为智能设备性能提升和智能化应
    的头像 发表于 02-24 12:02 424次阅读
    【一文看懂】什么是<b class='flag-5'>端</b><b class='flag-5'>侧</b>算<b class='flag-5'>力</b>?

    【实测】用全志A733平板搭建一个Deepseek算平台

    ​ 随着DeepSeek 的蒸馏技术的横空出世, SoC 芯片上运行大模型成为可能。那么芯片跑大
    发表于 02-13 10:19

    利用全志A733平板构建DeepSeek算平台

    随着DeepSeek 的蒸馏技术的横空出世, SoC 芯片上运行大模型成为可能。那么芯片跑大模型
    的头像 发表于 02-13 10:18 347次阅读
    利用全志A733平板构建<b class='flag-5'>端</b><b class='flag-5'>侧</b>DeepSeek算<b class='flag-5'>力</b>平台

    智能座舱SoC算评估及应用总结

    本文转自:智能座舱产业联盟精确评估SoC算的必要性智能座舱的系统稳定性、用户体验和性能表现都依赖于SoC(系统级芯片)的计算能力。为了实现
    的头像 发表于 01-15 10:09 911次阅读
    <b class='flag-5'>智能</b><b class='flag-5'>座舱</b>SoC算<b class='flag-5'>力</b>评估及应用总结

    广和通开启AI新时代

    AI发展正酣,随着终端芯片算越来越高、模型能力越来越强、实时响应及隐私保护的应用需求增
    的头像 发表于 12-12 10:35 425次阅读

    讯飞星火模型发布

    参数量小、内存占比小的模型,正成为“兵家必争之地”。
    的头像 发表于 12-04 16:07 972次阅读

    智谱推出四个全新模型 携英特尔按下AI普及加速键

    /4.8B/2B参数量。两个的大语言模型适合意图理解、智能对话、文本创作、知识库问答等,两个
    的头像 发表于 12-02 17:13 321次阅读
    智谱推出四个全新<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>模型</b> 携英特尔按下AI普及加速键

    把握关键节点,美格智能持续推动AI规模化拓展

    当前,AI大模型走向已经是大势所趋,AI的发展将推动人工智能成为影响世界的第四次工业革命
    的头像 发表于 11-26 01:00 335次阅读
    把握关键节点,美格<b class='flag-5'>智能</b>持续推动<b class='flag-5'>端</b><b class='flag-5'>侧</b>AI规模化拓展

    把握关键节点,美格智能持续推动AI规模化拓展

    当前,AI大模型走向已经是大势所趋,AI的发展将推动人工智能成为影响世界的第四次工业革命
    的头像 发表于 11-25 16:45 486次阅读
    把握关键节点,美格<b class='flag-5'>智能</b>持续推动<b class='flag-5'>端</b><b class='flag-5'>侧</b>AI规模化拓展

    中科创达发开创智能新篇章

    生成式AI在创新和应用方面以前所未有的速度向前发展。融合云计算和边缘/计算的混合AI技术, 正在加速推动人工智能的发展。
    的头像 发表于 11-17 11:23 634次阅读

    比亚迪与OPPO携手推进智能座舱,探索车机+手机生态互联

    智能驾驶领域持续发后,比亚迪正着手强化其智能座舱生态体系。近日,比亚迪宣布与OPPO达成战略合作,共同探索手机与汽车的深度融合。这一举动标志着比亚迪在
    的头像 发表于 10-31 15:10 1452次阅读

    基于AX650N/AX630C部署大语言模型Qwen2

    本文将分享如何将最新的大语言模型部署到超高性价比SoC上,向业界对模型部署的开发者提供
    的头像 发表于 07-06 17:43 4038次阅读
    基于AX650N/AX630C部署<b class='flag-5'>端</b><b class='flag-5'>侧</b>大语言<b class='flag-5'>模型</b>Qwen2

    云知声在边缘模型技术探索和应用

    解决的课题。 2024高工智能汽车开发者大会暨舱驾智能与跨域论坛上,云知声智慧座舱解决方案中心总经理鲍晴峰以《边缘模型带来
    的头像 发表于 06-29 15:30 969次阅读

    商汤发布业内最快推理速度「日日新 5.0 模型

    现在,就是AI大模型应用的春天!
    的头像 发表于 04-29 10:32 714次阅读
    商汤发布业内最快推理速度「日日新 5.0 <b class='flag-5'>端</b><b class='flag-5'>侧</b>大<b class='flag-5'>模型</b>」