0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

高通推出全新AI Hub,使AI推理速度最高提升4倍

CHANBAEK 来源:网络整理 2024-02-28 10:28 次阅读

在今年的世界移动通信大会(MWC)上,高通公司展示了其最新的技术成果——全新的高通AI Hub。这一创新平台为开发者提供了全面优化的AI模型库,涵盖传统AI和生成式AI模型,并支持在骁龙和高通平台上进行部署。

高通AI Hub的推出,意味着开发者能够更便捷地利用高性能的AI模型。据悉,该Hub将支持超过75个AI模型,通过优化这些模型,开发者在运行AI推理时的速度将提升高达4倍。这一显著的速度提升不仅增强了应用的响应能力,也为开发者提供了更广阔的创作空间。

值得一提的是,除了速度提升外,优化后的模型还在内存带宽和存储空间方面有所减少。这意味着在相同的硬件条件下,模型能够更为高效地运行,从而实现更高的能效和更持久的电池续航。对于移动设备用户而言,这无疑是一项重要的改进,能够有效延长设备的使用时间。

高通AI Hub的推出,进一步巩固了高通在移动技术领域的领先地位。随着AI技术的日益普及,这一平台有望为开发者提供更为强大的支持,推动移动应用的发展和创新。未来,我们期待看到更多基于高通AI Hub的优秀应用涌现,为用户带来更为丰富的体验。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 高通
    +关注

    关注

    76

    文章

    7439

    浏览量

    190321
  • 移动通信
    +关注

    关注

    10

    文章

    2597

    浏览量

    69773
  • AI
    AI
    +关注

    关注

    87

    文章

    30064

    浏览量

    268330
收藏 人收藏

    评论

    相关推荐

    NVIDIA助力丽蟾科技打造AI训练与推理加速解决方案

    丽蟾科技通过 Leaper 资源管理平台集成 NVIDIA AI Enterprise,为企业和科研机构提供了一套高效、灵活的 AI 训练与推理加速解决方案。无论是在复杂的 AI 开发
    的头像 发表于 10-27 10:03 160次阅读
    NVIDIA助力丽蟾科技打造<b class='flag-5'>AI</b>训练与<b class='flag-5'>推理</b>加速解决方案

    ASTRA AI Hub详细介绍

    ASTRA AI Hub以其强大的边缘计算能力、低成本的AI升级方案、持续的产品价值提升、高级的视觉识别应用以及端云智能交互的能力,为行业数字化转型和消费智能化升级提供了有力的支持。
    的头像 发表于 10-24 16:23 120次阅读
    ASTRA <b class='flag-5'>AI</b> <b class='flag-5'>Hub</b>详细介绍

    通骁龙汽车新方案:CPU性能跃升3,AI性能狂飙12

    。   据了解,骁龙座舱至尊版平台作为骁龙8295的升级版,被命名为Elite。该平台搭载了通专为汽车行业设计的自研Oryon CPU架构,其性能相较于8295提升了3,并集成了最新的NPU,使得
    的头像 发表于 10-23 14:50 495次阅读

    李开复:中国擅长打造经济实惠的AI推理引擎

    10月22日上午,零一万物公司的创始人兼首席执行官李开复在与外媒的交流中透露,其公司旗下的Yi-Lightning(闪电模型)在推理成本上已实现了显著优势,比OpenAI的GPT-4o模型低了31。他强调,中国擅长打造经济实惠
    的头像 发表于 10-22 16:54 308次阅读

    AMD助力HyperAccel开发全新AI推理服务器

    HyperAccel 是一家成立于 2023 年 1 月的韩国初创企业,致力于开发 AI 推理专用型半导体器件和硬件,最大限度提升推理工作负载的存储器带宽使用,并通过将此解决方案应用于
    的头像 发表于 09-18 09:37 328次阅读
    AMD助力HyperAccel开发<b class='flag-5'>全新</b><b class='flag-5'>AI</b><b class='flag-5'>推理</b>服务器

    英伟达推出全新NVIDIA AI Foundry服务和NVIDIA NIM推理微服务

    NVIDIA 宣布推出全新 NVIDIA AI Foundry 服务和 NVIDIA NIM 推理微服务,与同样刚推出的 Llama 3.1
    的头像 发表于 07-25 09:48 662次阅读

    NVIDIA推出用于支持在全新GeForce RTX AI笔记本电脑上运行的AI助手及数字人

    NVIDIA 宣布推出全新 NVIDIA RTX 技术,用于支持在全新 GeForce RTX AI 笔记本电脑上运行的 AI 助手及数字人
    的头像 发表于 06-04 10:19 688次阅读

    AI Hub支持骁龙X系列,赋能Windows PC终端AI

    在Microsoft Build 2024开发者大会上,通技术公司宣布了重大进展。公司扩展了通®AI Hub,使其支持骁龙®X系列平台,旨在帮助开发者更快地将创新产品推向市场。这一
    的头像 发表于 05-27 10:16 474次阅读

    进一步解读英伟达 Blackwell 架构、NVlink及GB200 超级芯片

    Blackwell GPU,标志着 AI 超级计算的一次重大进步。这种独特的配置显著减少传统网络扩展时 的通信开销,使得对 1.8T 参数的模型进行实时推理成为可能,同时将模型训练速度提升
    发表于 05-13 17:16

    开发者手机 AI - 目标识别 demo

    Network Runtime 神经网络运行时,作为中间桥梁连通上层AI推理框架和底层加速芯片,实现AI模型的跨芯片推理计算。提供统一AI
    发表于 04-11 16:14

    AI Hub助力开发者解锁终端侧AI潜力

    在巴塞罗那世界移动通信大会(MWC)上,通技术公司宣布了其在AI领域的最新进展,包括全新AI H
    的头像 发表于 03-04 16:15 696次阅读

    潞晨科技Colossal-AI + 浪潮信息AIStation,大模型开发效率提升10

    的潞晨科技Colossal-AI系统,用户可实现在本地算力平台一键训练、微调、推理、部署大模型,将大模型开发效率提升10以上,并将算力效率提升
    的头像 发表于 03-01 09:43 452次阅读
    潞晨科技Colossal-<b class='flag-5'>AI</b> + 浪潮信息AIStation,大模型开发效率<b class='flag-5'>提升</b>10<b class='flag-5'>倍</b>

    AI Hub为开发者开启卓越终端侧AI性能

    在今年的巴塞罗那世界移动通信大会(MWC)上,通技术公司再次引领AI技术的创新潮流,发布了其全新AI
    的头像 发表于 02-27 11:15 781次阅读

    通在2024 MWC展示AI领域新突破

    在2024年巴塞罗那世界移动通信大会(2024 MWC)上,通技术公司展现了其在AI领域的最新成果,从全新通®AI
    的头像 发表于 02-27 10:57 935次阅读

    MWC2024:推出全新AI Hub及前沿多模态大模型

    2024年世界移动通信大会(MWC)上,通再次展现其技术领导力,通过发布全新AI Hub和展示前沿的多模态大模型技术,推动了5G和
    的头像 发表于 02-26 16:59 1190次阅读