我们普通人和大模型的距离有多远?AI发展到2024年,已经附着在各种智能硬件上了,什么AI PC,AI手机,AI蓝牙音箱,AI学习机,AI鼠标等等,但其实虽然很多产品加上了个AI的名头,但用起来总让人想骂一句“人工智障”。手机、音箱里的“小艺小爱”们,只能做些约定俗成框架里的事,目前用起来是没感觉他能学习的。但AI PC貌似可以走完我与大模型的“最后一公里”,让每一个普通人都能够拥有昂贵的大模型。
主流AI PC芯片盘点及应用情况
2023年9月,AI PC的概念被首次提出,到2024年2月,英特尔在 MWC 2024 上表示,将会和宏碁、华硕、戴尔、Dynabook、富士通、惠普、联想、LG、微软 Surface、NEC、松下、三星和 VAIO 等公司合作,推出超过 100 款搭载英特尔最新AI PC芯片的商用笔记本电脑、台式机、一体机和入门工作站。在AI PC概念逐渐被市场认可后,各大老牌芯片巨头都紧跟推出新品。10 月,AMD Ryzen 7040系列笔记本电脑配备了基于Xilinx IP的专用AI引擎,名为“Ryzen AI”,可以加速 PyTorch和TensorFlow等机器学习框架的运行;同为10月,高通针对AI PC发布X Elite芯片;2024年1月,NVIDIA推出三款装载额外装置的全新显卡,称用户可以在“AI PC”上使用AI功能。目前,英特尔、高通、AMD、苹果等芯片处理器厂商已推出针对AI PC的处理器,联想、华硕、戴尔、荣耀等品牌厂商也在积极推动AI PC的发展。
虽然有各种各样的AI PC的处理器,但基本上各厂商通用计算架构都采用了“CPU+GPU+NPU”的异构方案。
图注:高通、英特尔、AMD的AI PC处理器
大模型的本地运行需要强大的AI算力,因此,在传统的CPU+GPU方案里加多了一个嵌入式神经网络处理器—NPU。NPU是一种专门用于处理人工神经网络计算的计算机微处理器,用于深度学习,对神经网络工作负责进行忧化。CPU做主控、GPU 做渲染、NPU 做 AI 加速,三种芯片结合,能实现更快速、更高效率的边缘AI模型推理。
高通用骁龙X Elite杀进PC领域,英特尔占领AI PC市场气势很足
微软宣布其AI PC的最低算力为40 TOPS,目前市场上的英特尔酷睿Ultra (34 TOS) 和AMD 锐龙 8040 (39 TOPS)都不能满足这一标准。除了装有AI专用显卡的笔记本之外,目前只有高通的骁龙X Elite(45 TOPS)能达到这性能要求。据预期,2024年下半年推出的AMD 锐龙8050和英特尔Ultra 200这两款处理器也将符合微软规定的40 TOPS。
从算力来看,高通确实是领先于目前其他AI PC处理器一步,但英特尔在PC芯片上的生态地位难以撼动,而在骁龙X Elite之前,高通在PC领域一直没有太大声响。然而在骁龙X Elite的发布会上,高通很狂,拉出苹果和AMD出来比较,喊话“我们单线程性能超越了苹果 M2 Max!并且同性能功耗比苹果还低 30%!” “英特尔也是一样”“比 AMD 的核显还强 80%!”
图注:高通发布会上拿英特尔i9-13980HX进行对比功耗
图注:高通发布会上拿AMD Ryzen 9-7940HS进行对比GPU性能
PPT数据很强大,也有很多PC OEM厂商会搭载,微软、联想、惠普、宏碁、华硕、三星等笔记本传统玩家,还有小米和荣耀。
同样有许多PC OEM站台的还有英特尔,英特尔在 MWC 2024 上推出全新的 vPro 平台,涵盖新款酷睿 Ultra 和第 14 代处理器,介绍 是一个商业计算平台,主要面向企业用户,将会和宏碁、华硕、戴尔、Dynabook、富士通、惠普、联想、LG、微软 Surface、NEC、松下、三星和 VAIO 等公司合作,推出超过 100 款搭载英特尔最新芯片的商用笔记本电脑、台式机、一体机和入门工作站。这罗列的商家和数据,颇有一种占领PC市场的野心和气势。
AMD Ryzen AI产品已经开始出货
AMD的AI产品组合涵盖云端、高性能计算、企业级、PC、嵌入式等应用,其AI 战略基于三个关键要素:产品、架构和开放生态系统。
集成AI引擎的Ryzen 7040、8040、8045等移动系列CPU是产品组合中的一部分,其中,Ryzen 8040系列已经开始出货,相关终端会在Q1上市。此外,AMD还有Ryzen 8000G系列桌面APU产品,同样基于台积电4nm制程,均提供最多8个Zen4架构的CPU核心,集成有最高768SP配置的RDNA3架构核显,可支持硬件光追和AFMF技术。
目前,基于Ryzen AI技术的产品已经被用于联想、华硕、宏碁等品牌电脑中,这些AI PC通过Ryzen系列产品内置的神经处理单元(NPU)提供低功耗、高效率的AI计算能力,加快图片和视频处理、语音识别、文字转录等AI相关的本地应用处理速度,从而提升用户的生产力和娱乐体验。
Arm架构或受益于AI PC浪潮
相比x86架构,Arm的优势在于低成本、低功耗、日益加强的性能和系统通用性以及海量终端设备生态,这些优势有望在移动终端AI PC上得到发挥。Counterpoint Research预测,随着Arm芯片迭代及性能持续提升,苹果、三星、联发科等国际大厂纷纷试水基于Arm架构的PC芯片,未来Arm有望于2027年占据全球Notebook CPU/SoC出货量25%的市场份额。前文提到的高通骁龙X Elite处理器,其内部的Oryon CPU是由高通公司开发的基于Arm指令集的完全定制化设计的处理器核心。不同于传统的Arm Cortex公版架构,Oryon是高通在收购NUVIA后推出的全新CPU内核,专为提升移动计算和笔记本电脑等设备的性能及能效而打造。另外有消息称,NVIDIA和AMD已经开始设计基于Arm的PC芯片,并将运行Windows操作系统,并最早在2025年推出。而在此之前,微软首款Surface平板电脑Surface RT采用了NVIDIA基于Arm的Tegra处理器,但Windows RT未能产生太大市场反响。根据外媒Windows Central的一份报告显示,Microsoft正准备使用新的AI功能升级其Surface产品线,或于2024年发布的 Surface Pro 10 和 Surface Laptop 6 将配备下一代神经处理单元 (NPU),并具有英特尔和Arm处理器两种选项。在更远的2025年还可能会有更新的 Surface Laptop Studio。微软很早就在其产品中支持Arm架构处理器,Windows RT是微软最早尝试在Arm架构上运行Windows的一个版本,最新的Windows 11继续支持Arm架构,并且在兼容性、性能和用户体验上进行了改进,支持更多应用程序原生运行在Arm设备上,同时通过模拟技术让更多x64应用可以在Arm设备上运行。微软还与高通、三星等硬件制造商合作,推出了多款搭载Arm处理器并运行Windows 10 on ARM系统的设备,如搭载高通骁龙系列处理器的始终连接PC(Always Connected PCs),这些设备结合了智能手机的长久续航和始终在线的特点与PC生产力工具属性。微软在AI PC生态中除了广泛硬件兼容,还具有一个比较重要的产品,也就是AI助手Copilot,其赋予了用户全新的交互方式,让AI更加紧密地融入个人电脑的操作和使用过程中,使得AI不再是抽象的概念,而是实实在在提升生产力和便利性的工具。
小结
AI PC为处理器芯片厂商和PC厂商创造了机遇,比较显著的革新趋势之一是通过在CPU、GPU或专用NPU中集成AI加速单元,提供更高的计算效率和更低的能耗,各主要处理器厂商均有产品落地,本文对这些处理器做了介绍。AI应用场景比较丰富,因此处理器的另一个趋势是定制化,这需要处理器厂商与操作系统开发商、AI框架开发者、ODM/OEM厂商紧密合作,共同推广AI应用和服务,打造独特卖点,提高产品附加值。
审核编辑 黄宇
-
ARM
+关注
关注
134文章
9084浏览量
367373 -
英特尔
+关注
关注
61文章
9949浏览量
171687 -
PC
+关注
关注
9文章
2076浏览量
154146 -
AI
+关注
关注
87文章
30728浏览量
268875 -
MWC
+关注
关注
1文章
570浏览量
45980 -
AI PC
+关注
关注
0文章
123浏览量
236
发布评论请先 登录
相关推荐
评论