AI,特别是生成式AI已经成为科技圈最热门的话题之一。ChatGPT、Midjourney、NewBing、Stable Diffusion、Firefly AI、文心一言、360智脑、通义千问……你就算没有用过这些热门的AI工具,至少也在朋友圈、微博以及其它互联网平台看到过关于它们的资讯。目前生成式AI已经在全球范围内引起了广泛且热烈的关注和讨论,各行各业的未来,几乎都在向着AI领域前进。
对于x86阵营的笔记本电脑来说,AMD今年率先推出Ryzen AI引擎,也率先带领锐龙笔记本电脑进入AI时代。那么问题来了,和普通笔记本相比,AI笔记本能带来怎样的体验呢?
Ryzen AI:AI笔记本的性能基石
从广义上来讲,AI涵盖了机器学习、深度学习、自然语言处理、计算机视觉等多个领域,实现它们的手段主要是依靠机器学习训练和推理。一般来讲,很多机器学习引擎和模型都能在CPU和GPU上运行,但对于笔记本平台来说,如果让CPU或者GPU来处理机器学习训练和推理任务,那么CPU或者GPU就会长期处于高负载状态,这样一来笔记本将更费电,而且效率也很低。因此把机器学习训练和推理交给更专业的“角色”来做会是一个更合理的解决方案,而这个“角色”就是独立的AI引擎。
AMD率先迈出第一步,它在今年1月份就为x86处理器首次带来了Ryzen AI,这个集成在锐龙7040系列移动处理器中的AI引擎专为AI运算而生。英特尔要在第14代笔记本酷睿Meteor Lake处理器中才会内置一个神经网络计算引擎NPU,也就是要等到下一代才会有类似的设计。
Ryzen AI基于专门设计的AMD XDNA AI架构,其核心是多个独立的AIE单元,而且与传统的CPU多核运算相比,XDNA AI架构有多个独立的内存电压单元、对应的内存控制器并拥有独立的高速互连通道,所以它在进行AI推理时更加灵活,效率更高,性能也更强。
Ryzen AI支持不同的AI神经网络,比如CNN(卷积神经网络)、RNN(循环神经网)、LSTM(长短时记忆)等。此外,它还支持Int8/16/32、BFloat16等各种高级数据类型,同时它还具备实时多任务能力,可处理最多4条并发空间流,这意味着它能够同时处理多个AI任务,提供更高的处理效率。
Ryzen AI是AMD锐龙笔记本的AI性能基石,它在笔记本平台主要负责轻量级的AI推理工作负载,包括音频、视频和图像处理等任务,能够比CPU或GPU更高效地执行这些任务,并显著降低延迟。要知道目前很多AI计算和应用都是通过云端AI服务器或者本地GPU来实现的,而现在有了x86处理器专属的Ryzen AI,意味着很多AI计算可以在非独显笔记本的端侧就能完成。对于笔记本平台来说,Ryzen AI有着出色的能效比和高算力,它能够为CPU或者GPU分忧,发挥自己高能效的优势。
轻薄本AI应用体验对比
在笔记本中加入Ryzen AI有什么用?实际上Ryzen AI主要的任务是处理AI推理与运算,所以在不少专用的场景以及常见的应用场景中,它能够发挥自己的优势。比如,Ryzen AI能够进行自然语言处理,使笔记本能够解读、处理和理解人类语言。在图像和视频处理方面,Ryzen AI也能快速高效地处理图像和视频数据,完成诸如更换背景、消除噪音、人脸识别、图像分类、图像修复等任务。
目前,AMD已经和微软进行合作,借助Windows Studio Effects来提升Windows系统中关于摄像头的体验。具体来说,Windows Studio Effects可让用户将某些滤镜和效果应用到系统底层的摄像头和麦克风上,以改善用户在视频通话期间的外观和声音,它们需要神经处理单元提供支持。
▲Ryzen AI笔记本支持Windows Studio Effects(左)和不支持该效果的普通笔记本(右)。
在支持Ryzen AI的笔记本上,我们可以快速启用Windows Studio Effects。最简单的方法就是单击通知区域图标组打开快捷设置,选择“工作室效果”。在默认情况下,你会先看到相机效果。此时你可以方便地对相机效果(背景虚化、眼神交流、自动取景)进行设置。当然,你也可以直接在系统的相机设置中启用Windows Studio Effects,这里的设置项目更加丰富、细致。我们对比一下其他没有配备Ryzen AI的笔记本就能看到,它的相机设置中没有背景虚化、眼神交流、自动取景等功能,这类笔记本如果要使用这些功能,或许只有借助第三方软件才行——而这无疑会增加系统负载,并影响续航。
有了系统底层上的功能支持,就算原生不支持任何视频效果的软件(比如TIM)也能在系统开启相应功能之后,得到背景模糊、眼神接触、自动取景等效果。这些基于Windows的高级功能可以在搭载AMD锐龙7040系列处理器和Ryzen AI的笔记本电脑上直接使用,但目前的酷睿笔记本上则不能使用。
轻薄本AI性能对比测试
除了AI应用上的不同体验之外,普通笔记本和具有Ryzen AI功能的笔记本在AI性能上有多大的差距呢?我们通过两台集显轻薄本来简单对比一下。AMD平台方面,我们选择联想YOGA Air 14s 2023来测试,这台机器搭载联想定制的AMD锐龙7 7840S处理器。这款处理器基于Zen 4架构,采用4nm先进制造工艺,配备8核心16线程,最大加速频率达到5.1GHz,内置Ryzen AI。同时,这款处理器还内置采用RDNA 3架构的Radeon 780M显卡。
联想YOGA Air 14s 2023是一款14.5英寸的轻盈本,机身采用轻薄化设计,薄约13.9mm,轻至1.28kg。这台机器采用2944×1840分辨率的PureSight超感OLED屏幕(支持触控),屏幕刷新率达到90Hz,并支持100% DCI-P3色域。此外,这台机器还配备70Wh电池,电池续航支持全天候办公9.5小时。接口方面,这台机器也十分齐全,它配备两个全能的USB4接口、一个全功能USB-C 3.2接口以及一个3.5mm二合一音频接口,不管是外接多台显示器还是鼠标键盘,都能满足用户的需求。
对比的英特尔平台,我们选择一款搭载酷睿i7-13700H的14英寸轻薄本,酷睿i7-13700H处理器采用混合架构,采用Intel 7生产工艺,配备14核心20线程,最大睿频频率达到5.0GHz,这款处理器内置频率为1.5GHz的英特尔锐炬Xe核显,其配备96个EU执行单元。酷睿i7-13700H与锐龙7 7840S处理器最大的不同在于酷睿处理器没有专门的AI引擎。此外,对比的两个平台都采用32GB双通道内存以及1TB PCIe 4.0 SSD。
理论AI性能方面,我们主要通过UL AI Inference Benchmark来测试,该软件囊括了Mobile Net V3、Inception V4、YOLO V3、DeepLab V3、Real-ESRGAN和ResNet 50等神经网络模型,支持Microsoft Windows ML、Qualcomm SNPE、英特尔OpenVINO和NVIDIA TensorRT等4种SDK,非常权威和专业。
从测试成绩统计图可以看到,在Microsoft Windows ML测试场景下,Ryzen AI加持的锐龙7 7840S平台在Float32精度下的CPU测试分数为107分,相对于酷睿i7-13700H平台的99分,领先大约8%。我们知道GPU也能进行AI推理和运算,所以再来看看这两款处理器内置的集显的表现。用集显来进行测试的话,可以看到锐龙7 7840S内置的Radeon 780M显卡得到227分,这样的成绩领先酷睿i7-13700H内置的锐炬Xe集显大约104%,Radeon 780M显卡在AI推理和运算中的表现可以说非常出色。从这个测试其实也能看到,无论是CPU还是集显,有着Ryzen AI加成的锐龙7 7840S的AI性能都全面领先于酷睿i7-13700H。
最后再来看看两个平台在实际应用中的表现。知名AI应用厂商Topaz Labs旗下的 Topaz Photo AI、Topaz Video AI等软件已经加入了对Ryzen AI的支持,我们本次通过Topaz Photo AI来测试,Topaz Photo AI主要使用AI技术来分析和增强图像,它可以消除照片噪点、放大照片并提高整体质量。
Topaz Photo AI软件已经加入了对Ryzen AI的支持,不过由于Ryzen AI集成在CPU中,不会被软件单独识别出来,所以本次对比测试时我们统一在软件中设置为使用CPU加速,然后将一张3840×2466分辨率的图片进行放大6倍并用AI来清除照片噪点,最后来看两个平台进行这两项操作的总耗时,耗时越短表明其越高效。
可以说最终的测试结果令人大吃一惊。将一张3840×2466分辨率的图片放大6倍并清除照片噪点,有着Ryzen AI加成的锐龙7 7840S平台仅耗时10秒就完成了操作,速度非常之快。要知道原始图片仅1.65MB大小,放大之后的图片达到40.9MB,分辨率达到23040×14796。对于如此庞大的工作量,锐龙7 7840S平台几乎眨眼间就完成了。相反,没有任何AI引擎加成的酷睿i7-13700H平台,完成这个操作需要98秒,妥妥的是纯CPU在干活,效率非常低。
Stable Diffusion WebUI绘图测试
要说目前最火的AI应用,除了各种在线的大模型生成式对话工具之外,以Stable Diffusion为代表的生成式AIGC工具更是受到大家的广泛追捧。与各类在线AI出图的工具相比,Stable Diffusion拥有出色的高自由度,同时也拥有大量免费的资源,部署在笔记本本地的话,在安全性、私密性、便捷性上也有保障。在Stable Diffusion本地AI出图加速方面,GPU相比CPU有着更大的优势,对于搭载集显的轻薄本而言,这主要考验不同平台的集显性能。那么对于Stable Diffusion本地AI出图,锐龙7 7840S轻薄本和酷睿i7-13700H轻薄本谁的效率更高呢?我们来实战比拼一下。
AUTOMATIC1111的Stable Diffusion WebUI支持通过DirectML调用集显来加速,因此我们用秋葉aaaki的Stable Diffusion 4.4整合包来测试。在整合包的启动器中,我们可以单独选择Radeon 780M和锐炬Xe显卡进行加速。在测试中,我们采用墨幽1050 2G模型,具体设置为迭代步数:20、采样器:DPM++ 2M Karras、CFG scale:7、图片分辨率:512×512。
▲Radeon 780M只用57秒就完成了一个批次单图的生成。
从测试结果来看,锐龙7 7840S处理器内置的Radeon 780M显卡有着出色的表现,用它进行加速,Stable Diffusion WebUI完成一批次单张图片的生成只用了57秒,而酷睿i7-13700H处理器内置的锐炬Xe显卡则需要3分钟9秒才能完成,差距非常大,大大出乎我们的预料。由此可见Radeon 780M在Stable Diffusion WebUI中的表现十分出色。另外,如果我们设置为一个批次连续生成5张图的话,Radeon 780M仅耗时4分钟51秒就完成了任务,而锐炬Xe平台则根本无法完成任务,因为测试时程序直接报错崩溃了。由此可见,在Stable Diffusion本地出图应用中,Radeon 780M的效率远高于锐炬Xe,而且它还有更好的稳定性和可靠性。对于集显轻薄本用户来说,如果你在平时或者工作中需要使用Stable Diffusion,又或者想要尝尝鲜,那么锐龙本才是更好的选择。
双管齐下 轻薄本的AI体验还得看锐龙
今年以来,大模型和生成式AI已经成为科技领域最新的风口!科技公司如果不谈AI,就像落后了几个时代。回到PC领域,此前可能很多人认为笔记本,特别是轻薄本无法胜任AI方面的工作。
▲Topaz Photo AI软件支持调用Ryzen AI引擎来完成AI工作
随着Ryzen AI的到来,AMD为我们打开了AI笔记本新世界的大门。在Ryzen AI的加成下,锐龙AI笔记本已经能在视频会议方面带来更出色的体验,也能在Topaz Photo AI、Topaz Video AI等AI应用中带来更高的效率,相信在未来也会有越来越多的应用加入AI功能,并加入对Ryzen AI的支持。
另一方面,从我们的Stable Diffusion WebUI测试也能看到,锐龙7040系列移动处理器内置的RDNA 3显卡同样能提供出色的本地AI加速性能,它在Stable Diffusion WebUI中的出图效率远远领先于锐炬Xe显卡,而且连续出图的稳定性和可靠性也更好。这就是说除了专用于AI加速的Ryzen AI,AMD在轻薄本上还有性能强大的RDNA 3 GPU。这个组合让锐龙轻薄本具备了全面AI加速的能力。
如果说AI是笔记本发展的未来,那么从兼容下一代软件的角度以及AI实际体验的角度来看,双管齐下的锐龙AI笔记本已经拥有很好的先发优势,这是竞争对手目前还无法与之相比的。可以说,现阶段的轻薄本AI体验,还得看锐龙!
-
amd
+关注
关注
25文章
5438浏览量
133913 -
cpu
+关注
关注
68文章
10824浏览量
211087 -
笔记本电脑
+关注
关注
9文章
1397浏览量
48065
原文标题:轻薄本AI应用深度测试,锐龙7 7840S大战酷睿i7-13700H
文章出处:【微信号:Microcomputer,微信公众号:Microcomputer】欢迎添加关注!文章转载请注明出处。
发布评论请先 登录
相关推荐
评论