0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

让智能计算无处不在,高通ChinaJoy AIGC大会展望终端侧AI行业赋能

爱云资讯 2024-07-29 09:49 次阅读

2024年7月26日,中国国际数字娱乐产业大会(CDEC)旗下ChinaJoy AIGC大会于ChinaJoy期间在上海举行。大会从技术、应用等全生态角度共同探讨了AIGC技术下的内容产业新业态和未来发展趋势,聚焦AIGC如何助力产业升级、如何提升AIGC场景应用、如何促进人机融合等。

wKgZomam9TSAVItvAAXbRZxq5u8629.png

高通技术公司副总裁兼产品、合作伙伴和技术市场全球负责人 Mike Roberts 在大会上发表了主题演讲。他指出,终端侧生成式AI已经到来,高通公司作为终端侧AI的领导者,在AI领域有着超过15年的投入,借助强大的硬件和软件支持组合、异构计算优势、以及全球范围内的领先边缘侧布局,高通的产品和技术已支持出货超过25亿台AI赋能终端,赋能广泛的行业领域和生成式AI体验,正在推动实现“让智能计算无处不在”。

以下为演讲全文:

大家好,很高兴第四次参加ChinaJoy。我很荣幸代表高通,与大家分享我们正在如何助力让智能计算无处不在。作为终端侧AI的领导者,高通在人工智能领域有着超过15年的投入,拥有行业领先硬件和软件解决方案覆盖广泛边缘终端,并且拥有跨NPU、CPUGPU的卓越异构计算能力、领先的软件优化、以及能效。此外,我们还在全球范围内拥有无与伦比的边缘侧布局和高达数十亿的用户设备数量,覆盖智能手机、PC、汽车、XR、边缘网络设备等等。同时,我们也与微软、谷歌、百川、腾讯、字节跳动等众多生态合作伙伴共同推动AI技术的创新和应用。

生成式AI不仅是不可或缺的个人助手,也在众多领域展现出了巨大的商业价值。预计每年可带来2.6万亿到4.4万亿美元的经济效益,大约相当于2023年上海GDP的5倍。然而,推动生成式AI的规模化发展面临诸多挑战。以成本为例,基于生成式AI的搜索单次推理成本是传统网络搜索的约10倍。目前,我们还处于生成式AI应用的早期阶段,新的应用不断涌现,包括图像和视频创作、文本摘要、对话聊天机器人等。再考虑到未来需要使用AI推理的数十亿用户数,这个总体需求量就会非常惊人。预计2024年至2028年,生成式AI相关的token生成量将增长150 倍,云端的推理需求将超过训练需求。如果还保持当前的AI处理方式,到2030年AI可能会消耗全球3.5%的电力,这足以为上海这样的大城市供电约35年。

那么我们应如何应对这一挑战?为了实现规模化扩展,AI处理的重心正在向边缘侧转移,最终目标是实现混合AI,让云端和边缘侧终端能够协同处理工作负载,并使用高性能连接来实现更加强大、高效、优化的AI。如果将 20% 的生成式 AI 工作负载转移到终端侧,预计到 2028 年将节省 160 亿美元的计算资源成本。

让我们分别看看终端侧和云端的AI处理。终端侧主要支持100亿参数级别的大模型。终端侧AI处理具备众多优势,不仅能够提高性能和效率,还能确保隐私和安全性,同时提供即时性、低时延、高可靠性和个性化的用户体验。另一方面,中心云能够支持运行参数超过千亿级别的超大模型。在中心云上,用户可以轻松地对模型进行开发、部署和训练,实现资源聚合和极致性能。

基于此,面对各个垂直领域对生成式AI用例日益增长的需求,高通推出了面向计算性能的系统级解决方案。提供系统级解决方案的理念植根于高通公司的DNA之中,也是我们作为一家公司应对诸多挑战的关键。这一解决方案包括我们专为生成式AI全新打造的神经网络处理器(NPU),同时,我们还将NPU与CPU、GPU整合到一起。比如,我们已经在PC端推出的高通Oryon CPU,未来还将扩展到手机、汽车等更多终端品类;此外,我们推出了高通Adreno GPU,我们在这款定制化GPU上已经投入了超过十年的研发。

我们针对不同计算需求,策略性地使用适宜的处理器,从而提升系统性能,实现异构计算。异构计算让我们能够实现最佳应用性能、能效和电池续航。如今,终端侧AI已经广泛应用于各类消费终端和各行各业,包括边缘网络设备、汽车、以及制造车辆的工业机器人等。在此,我想重点谈谈两种主要的终端类型:智能手机和PC。

我们最新的第三代骁龙8旗舰移动平台已经赋能诸多手机厂商合作伙伴推出了丰富的终端侧AI体验。上个月,我们的合作伙伴微软以及其他领先PC厂商,推出了20多款搭载骁龙X Elite和骁龙X Plus平台的最新Windows 11 AI+ PC,这些设备已经实现了实时翻译、实时转译、AI照片编辑、文本总结、写作辅助等丰富的AI功能。

让我们先从智能手机的角度来谈谈这些终端侧AI用例。我们与合作伙伴携手在他们推出的旗舰智能手机上,为用户带来了生成式AI功能,将骁龙的AI能力直接呈现给消费者。三星Galaxy S24系列借助终端侧AI,以先进的实时翻译功能,将手机通话实时翻译成用户首选语言,打破语言障碍,促进无缝的跨文化交流。此外,OPPO Find X7 Ultra集成了出色的终端侧AI特性,让用户能够将照片中不需要的物体或人物消除,且无需连接互联网。荣耀Magic6系列的“智慧成片”功能则能够利用相册中的照片和文本提示生成视频。

接下来,让我们聊聊PC领域的应用。 在PC方面,我们与djay Pro等众多公司展开了合作。djay Pro是一款全球领先的混音应用,经过我们双方的合作优化,现在可以在骁龙X Elite的NPU上运行,让用户能够利用Neural Mix实时分离和操作人声、乐器、鼓等不同音轨。

现在,让我们将目光转向汽车制造商和其他服务提供商,他们可以根据需求提供特性升级和新服务。中国的汽车市场有着全球领先的发展速度。在网联汽车中使用生成式AI服务,能够赋能我们的合作伙伴打造全新特性,扩展他们的产品,并为驾驶员和乘客提供更佳体验。网联汽车能够支持各种软件定义特性和服务,也将重新定义出行体验。

高通还在引领终端侧AI在物联网领域的应用。一个具体的用例是工厂车间,工厂车间中数据处理的低时延至关重要,因为即使是最微小的错误也需要即刻关注。通过多模态AI助手,我们可以使用视觉、文本和语音处理为工厂车间的工人提供实时帮助。

我们还提供了高通AI软件栈这一全面的统一解决方案,以支持广泛的垂直领域和合作伙伴。高通AI软件栈旨在帮助开发人员优化和部署AI模型,它集成了我们自主的高通神经网络处理SDK、以及模型压缩和量化工具——高通AI模型增效工具包(AIMET)。

综上所述,凭借强大的硬件和软件支持组合,高通的产品和技术已支持超过25亿台AI赋能终端的出货。随着我们不断缩小云端和终端侧AI之间的差距,未来这一数字将继续快速增长。最后,非常欢迎大家来到ChinaJoy骁龙主题馆E4参观体验。谢谢大家!

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 高通
    +关注

    关注

    76

    文章

    7439

    浏览量

    190324
  • AI
    AI
    +关注

    关注

    87

    文章

    30072

    浏览量

    268340
  • AIGC
    +关注

    关注

    1

    文章

    354

    浏览量

    1504
收藏 人收藏

    评论

    相关推荐

    智能无处不在:安谋科技“周易”NPU开启端AI新时代

    的需求,将AI的触角延伸至世界的每一个角落。 近日,在EEVIA主办的第12届中国硬科技产业链创新趋势峰会暨百家媒体论坛上,安谋科技产品总监鲍敏祺发表了精彩的主题演讲《端AI应用芯机遇,NPU加速
    发表于 11-15 11:42 89次阅读
    <b class='flag-5'>智能</b><b class='flag-5'>无处不在</b>:安谋科技“周易”NPU开启端<b class='flag-5'>侧</b><b class='flag-5'>AI</b>新时代

    万物智联时代,OpenHarmony何以「无处不在」?

    的超级融合能力,轻松实现教室设备的智能管控和智慧课堂教学……当设备学会感知环境、数据开始跨域流动,连接将变得无处不在,过去被认为是天马行空的许多构想,今天看来也已
    的头像 发表于 10-31 08:04 247次阅读
    万物智联时代,OpenHarmony何以「<b class='flag-5'>无处不在</b>」?

    华为云徐峰:AI 应用现代化,加速软件生产力跃升

    ,分享了智能化应用的行业实践,并发布了华为云在应用开发、运行、运维、集成领域的智能化新产品能力。 在主题为“ AI
    的头像 发表于 10-14 09:45 484次阅读
    华为云徐峰:<b class='flag-5'>AI</b> <b class='flag-5'>赋</b><b class='flag-5'>能</b>应用现代化,加速软件生产力跃升

    Arm如何无处不在AI

    作为人工智能 (AI) 的创新基础,众多企业都在使用通用且应用广泛的 Arm 计算平台。迄今为止,合作伙伴基于 Arm 架构的芯片出货量已逾 2,800 亿颗。如今,Arm 已为各类技术领域的
    的头像 发表于 09-14 09:38 446次阅读

    人工智能技术跃进:英特尔引领AI无处不在新纪元

    在人工智能AI)技术日新月异的今天,从机器学习的初步探索到深度学习的广泛应用,再到如今生成式AI的蓬勃兴起,每一步都标志着AI向“无处不在
    的头像 发表于 09-04 14:59 573次阅读

    格灵深瞳亮相2024 ChinaJoy AIGC大会

    2024年7月26日,2024 ChinaJoy AIGC大会在上海浦东嘉里大酒店召开。大会围绕“智周万物”的主题展开,邀请了来自国内外AIGC
    的头像 发表于 07-29 17:30 687次阅读

    锐宝智联亮相2024英特尔网络与边缘计算行业大会

    2024年7月23日至24日,“2024英特尔网络与边缘计算行业大会”在天津于家堡洲际酒店隆重举办。本届大会以“芯所及 AI无处不在”为主题
    的头像 发表于 07-25 17:54 929次阅读

    AMD将携最新锐龙AI 300系列处理器亮相ChinaJoy 超前AI体验

    ChinaJoy,联合众多产业链合作伙伴,推出搭载最新锐龙AI 300系列处理器的AI PC新品,并推动产业链创新,超前
    的头像 发表于 07-18 17:03 447次阅读

    通亮相2024世界人工智能大会

    参加大会,通过多场会议论坛分享自身在人工智能领域取得的创新成果,以及对于人工智能产业发展的新思考。同时,通也在大会现场带来前沿技术演示,从
    的头像 发表于 07-05 10:57 717次阅读

    AI Hub支持骁龙X系列,Windows PC终端AI

    在Microsoft Build 2024开发者大会上,通技术公司宣布了重大进展。公司扩展了通®AI Hub,使其支持骁龙®X系列平台,旨在帮助开发者更快地将创新产品推向市场。这一
    的头像 发表于 05-27 10:16 477次阅读

    2024通与美格智能边缘智能技术进化日圆满举行

    近日,通技术公司与美格智能在深圳共同举办了盛大的“2024通&美格智能边缘智能技术进化日”活动。此次
    的头像 发表于 05-15 11:04 501次阅读

    通亮相MWC 2024:AI+连接助力创新与协作,智能计算无处不在

    2月26日,全球最具影响力的移动通信盛会2024世界移动通信大会(MWC)在巴塞罗那拉开帷幕,以“未来先行”为主题,围绕“超越5G”、“智联万物”、“AI人性化”等话题展开。
    的头像 发表于 02-28 15:57 508次阅读

    AI全新体验 紫光展锐助推端AI技术创新

    近日,紫光展锐在2024世界移动通信大会(MWC 2024)上展示了在AI领域的最新成果,广泛终端品类打造突破创新的应用体验。
    的头像 发表于 02-27 18:19 1242次阅读
    以<b class='flag-5'>AI</b><b class='flag-5'>赋</b><b class='flag-5'>能</b>全新体验 紫光展锐助推端<b class='flag-5'>侧</b><b class='flag-5'>AI</b>技术创新

    通在2024 MWC展示终端AI智能计算和无线连接新突破

    在今年的MWC巴塞罗那展会上,通技术公司大放异彩,宣布了一系列在终端AI智能计算和无线连接
    的头像 发表于 02-27 11:04 747次阅读

    通持续推动终端生成式AI变革,推出AI Hub能开发者

    通现终端AI在下一代PC、智能手机、软件定义
    的头像 发表于 02-26 16:46 587次阅读