0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

高通在AI领域的布局,骁龙 8 Gen 2支持Transformer大模型!

lPCU_elecfans 来源:未知 2022-12-01 07:45 次阅读
电子发烧友网报道(文/李弯弯)前不久,在2022骁龙技术峰会上,高通正式发布了全新一代旗舰移动平台骁龙 8 Gen 2。骁龙 8 Gen 2搭载一颗专门面向AI计算的Hexagon处理器,在手机AI加速计算、计算式摄影、手游光线追踪、5G双卡双通方面均较上一代有较大突破。
高通高级副总裁兼手机业务总经理Christopher Patrick在峰会上表示,“我们把人工智能作为设计第二代骁龙8的关键技术。”

骁龙 8 Gen 2的AI技术体现在哪些方面

骁龙8 Gen 2搭载的Hexagon处理器,之前是用来命名骁龙芯片内部DSP的,它在此之前更像是协处理器。如今Hexagon已经进化为专用的AI加速计算芯片,具有专门为其供电的系统,内置Tensor、Scalar加速器、HVX矢量扩展处理器,支持Micro Tile Inferencing等技术。
据介绍,骁龙8 Gen 2这次的Hexagon处理器具备INT4精度AI计算的能力。这让骁龙8 Gen 2成为世界上第一颗,也是目前已知的唯一一颗支持INT4精度AI计算的移动平台处理器。
INT4是一种更新、近年来多受关注的AI计算精度模式,和之前经常被提起的浮点计算精度模式相比起来,INT4能够让模型占用空间显著缩小,从而可以在计算/能耗资源更为有限的移动平台上,保存和运行更多和更大的预训练神经网络模型。
根据高通的表述,支持了INT4之后,开发者可以让骁龙8 Gen 2来跑超大规模的神经网络,比如Transformer。在此之前没有已知的移动平台具有本地运行Transformer类预训练模型的能力,而骁龙8 Gen 2也成为了第一颗支持Transformer大模型的移动处理器。
通过支持INT4精度计算,Hexagon处理器还可以更加有效地替代GPUCPU,在运行各种AI计算任务时显著降低能耗。在持续AI推理计算任务上,骁龙8 Gen 2相比8 Gen 1的性能提升最高可达4.35倍,每瓦性能提升程度高达60%。
Christopher Patrick在讲解中表示,在Hexagon处理器和Qualcomm Spectra ISP之间,还增加了一个名为“Hexagon直连”的物理连接,以此打造了移动行业首创的“认知ISP”。
“认知ISP”应用在影像处理过程中,通过实时语义分割实现照片和视频的自动增强,利用AI神经网络让摄像头在情境中感知人脸、面部特征、头发、衣服和天空等,进行独立优化,从而让每个细节获得定制的专业图像调优。而之前由于AI性能较弱,用户在拍摄完照片之后通常需要一段处理时间,手机才会显示成片。
在AI性能提升的情况下,骁龙8 Gen 2也带来了实时硬件加速光线追踪。高通技术人士表示,硬件光追可以做到每秒数百亿次光线相交,对光线、反射、照明等处理会更加真实。在网络连接方面,5G芯片中植入了AI功能,可以改善网络中的时延、网速、覆盖不到位等问题。

高通软硬件布局,应对终端AI落地挑战

如今AI几乎渗透进各行各业,终端应用场景丰富,这也造成终端AI在落地上面临挑战。包括:不同终端产品对性能和功耗需求不同;各类终端产品所需的深度学习架构和算子也差异巨大,比如智能手机需要使用生成模型、计算领域要用到Transformer模型,汽车ADAS则需要激光雷达模型;各类终端产品对AI特性的需求也不尽相同,比如汽车和XR需要支持更多的并发场景。
为了应对这些挑战,从硬件层面,高通推出的AI解决方案已经实现从500毫瓦到15瓦的性能水平扩展,甚至可以满足200瓦的性能水平。
另外为了解决不同场景对AI能力需求的差异,高通在Hexagon处理器中打造了高度可配置的硬件解决方案,使高通能够将AI解决方案从智能手机扩展到更多业务线。比如面向汽车、云端等高性能场景,高通可以调整Hexagon处理器内的加速器和内存组件,还可以拼接多个Hexagon处理器,通过更多Hexagon处理器协同工作实现性能的拓展提升。
在AI软件层面,高通也做了深入布局。今年6月,高通宣布推出AI软件栈产品组合,以提升高通在AI和智能网联边缘领域的领先优势。高通AI软件栈是面向OEM厂商和开发者的一套完整的AI解决方案,集合了高通各种AI软件产品并进行了升级,通过丰富的AI软件权限和兼容性能够支持各种智能终端。
高通AI软件栈支持包括TensorFlow、PyTorch和ONNX在内的不同AI框架与主流runtimes,以及开发者库与服务、系统软件、工具和编译器,从而使任何面向单一终端开发的AI特性都可在其他终端上轻松部署。高通AI软件栈产品组合还支持一系列工具套件,包括高通AI模型增效工具包(AIMET)、AI开发图形用户界面(GUI)、用于增强量化与优化的模型分析器以及神经网络架构搜索(NAS)。

小结

如今AI的发展势头迅猛,各家芯片厂商都布局其中,包括英伟达英特尔等。高通在该领域也已经布局许久,近些年更是加大了在该领域的投入。因为本身应用场景多样的特性,终端AI在落地应用上一直存在挑战,可以看到高通正在从软硬件各方面解决这些业界难题。

声明:本文由电子发烧友原创,转载请注明以上来源。如需入群交流,请添加微信elecfans999,投稿爆料采访需求,请发邮箱huangjingjing@elecfans.com。


更多热点文章阅读

  • 最高涨幅25%,AMD宣布上调Xilinx FPGA售价,供应短缺让TOP 2厂商受益
  • 时隔20年,莫斯科人汽车再次复产,背后全是中国车企的影子
  • 欧盟超430亿欧元投向芯片领域,对上游半导体设备有何影响?
  • 24W以下电源,新型自供电BJT方案将全面取代其他方案?
  • 车用芯片不再缺?芯片大厂表示有所缓解,真实情况究竟如何呢?


原文标题:高通在AI领域的布局,骁龙 8 Gen 2支持Transformer大模型!

文章出处:【微信公众号:电子发烧友网】欢迎添加关注!文章转载请注明出处。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 电子发烧友网

    关注

    1010

    文章

    544

    浏览量

    164306
  • 大模型
    +关注

    关注

    2

    文章

    2322

    浏览量

    2477

原文标题:高通在AI领域的布局,骁龙 8 Gen 2支持Transformer大模型!

文章出处:【微信号:elecfans,微信公众号:电子发烧友网】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    8 Gen4将于今年Q4亮相

    9月28日的最新消息揭示,知名爆料人Yogesh Brar透露,通即将在今年的第四季度推出其旗舰处理器——8
    的头像 发表于 09-29 14:41 664次阅读

    8 Gen4将开创性地集成自家研发的Oryon CPU

    近日,通公司在其盛大的官方活动中震撼宣布,其旗舰级移动处理器领域的最新力作——8 Gen4
    的头像 发表于 07-26 15:07 535次阅读

    小米K80系列曝光:搭载8 Gen 4,支持120W快充

    据悉,小米已加快红米K80系列手机的研发进程,预计将推出搭载8Gen3及8Gen4两种版
    的头像 发表于 05-27 10:24 1054次阅读

    XR2 Gen 3与XR2+ Gen 3芯片实测数据披露,单眼实现4K画面

    值得注意的是,尽管CES 2024展示了XR2+ Gen 2芯片设计方案,但至今尚无VR制造商实际应用此类芯片,而此次曝光的
    的头像 发表于 05-22 10:45 2224次阅读

    支持Meta Llama 3大语言模型旗舰平台上实现终端侧执行

    通和Meta合作优化Meta Llama 3大语言模型支持未来的旗舰平台上实现终端侧执
    的头像 发表于 04-20 09:13 450次阅读

    Redmi Turbo 3搭载8s Gen 3芯片,配备AI隔空手势与AI魔法功能

    据悉,Redmi Turbo 3内置AI隔空手势操作功能,利用8s Gen 3芯片的旗舰
    的头像 发表于 04-09 15:28 1501次阅读

    通全新中端旗舰芯片8s Gen 3发布

    8s Gen 3 的尺寸仅为 8.40×10.66mm,相较于
    的头像 发表于 04-08 15:30 2207次阅读

    8s Gen 3与8 Gen 3性能对比

    知名博主@万扯淡曝光的一组实际测试图展现出 8s Gen 3的具体情况,其尺寸仅为8.40×10.66mm,相比之下,
    的头像 发表于 04-07 14:32 1.1w次阅读

    8 Gen 4即将发布,采用定制“Phoenix”核心,人工智能不受影响

    据了解,8Gen 4芯片将搭载独家Phoenix核心和“2+6”的多核架构,以及创新的Slice GPU架构。值得注意的是,
    的头像 发表于 02-29 09:59 639次阅读

    手机AI模型来袭,存储来到16GB+512GB?

    强大的CPU、GPU和NPU的支持下,8 Gen可以设备端运行生成式
    的头像 发表于 01-19 09:54 6309次阅读
    手机<b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>来袭,存储来到16GB+512GB?

    持续深入合作,歌尔联合通推出XR2 Gen 2XR2+Gen 2 MR 参考设计

    1月8日,歌尔联合通公司推出了基于XR2 Gen 2
    发表于 01-08 09:17 479次阅读

    歌尔联合通推出XR2 Gen 2和XR2+Gen 2 MR参考设计

    1月8日,歌尔联合通公司推出了基于XR2 Gen 2
    的头像 发表于 01-08 09:15 849次阅读

    三星和谷歌计划采用XR2+ Gen 2芯片

    近日,通宣布推出了一款全新芯片,名为XR2+ Gen 2。这款芯片是专门为混合现实(XR)
    的头像 发表于 01-07 16:32 1027次阅读

    Linux 6.8主线内核将支持8 Gen 3,但仍需额外适配

     Linux 6.8主线内核对8 Gen 3的支持将为开发人员和用户带来更多的选择和便利
    的头像 发表于 12-19 15:46 1706次阅读

    天玑9400性能将超越8 Gen4?

    通已经确认,明年的8 Gen4将使用自研的定制Oryon CPU核心。这一转换可能会使
    的头像 发表于 12-18 16:29 1743次阅读