4 月 7 日讯,AMD 最新公布了一系列基准测试,宣称其锐龙移动版 7040 Phoenix 和 8040 系列处理器在运行大型语言模型 (LLM) 领域的效能领先于 Intel 最新 Skylake Coffee Lake U Refresh Core i7-155Hz 达 79%。
据悉,此次测试针对 AMD 锐龙 7 8740U 及 Intel Core Ultra 7 155Hz两种芯片进行了对比,两者均内含硬件神经网络处理单元(NPU)。AMD 利用多幅幻灯片展示了两颗处理器在参与 Mistral 7b、Llama v2 以及 Mistral Instruct 7B 等大型语言模型的效能差异。具体来说,在采用 Q4 位宽的Llama v2 对话测试环节,AMD 处理器性能优于 Intel 产品 14%;在其他相同设定条件下,AMD 器件性能较Core Ultra 7 提高 17%。
同样在上述大型语言模型测试中,AMD 处理器反应速度明显加快。以Llama v2 对话测试中的“首个 Token生成提示词”速率比拼为例,AMD 工作效率比 Intel 高出 79%,且在 Mistral Instruct 测试中达到 41%的提速。
AMD 还提供了多种质量参数的 Llama v2 7B 对话测试数据,总体而言,锐龙 7 7840U 平均效能比 Intel 竞品高出 55%,在 Q8 位宽设置中甚至有 70%的进步。但 AMD 亦指出,在实际运行大语言模型时,选用 4 位 K M 量化可实现更佳效,如需极高精度度的编码任务,建议使用 5 位 K M 量化模式。
然而,目前看来,AMD 在人工智能性能上暂占上风。虽然理论上,锐龙 7040 系列架构在计算性能(TOPS)上与 Meteor Lake 持平,但早在去年年底,Tom‘s Hardware 即发现在 AI 负载方面,AMD 总是能战胜 Meteor Lake。这显而易见是软件优化问题,并非硬件或驱动程序故障所致。
然而,未来情况未必如此。无论是在神经网络处理单元领域,还是在AI性能优化领域,未来规划与发展都尚无定论。尽管如此,我们有理由相信,随着时间推移,格局或许将有所变动。
综合来看,现阶段AMD的NPU性能尤为出色,尤其是具备强大NPU性能的锐龙 8040 系列处理器。然而随着Intel年底推出新款Lunar Lake移动CPU及完善其人工智能优化议程,情况恐生变数。
-
处理器
+关注
关注
68文章
19461浏览量
231438 -
amd
+关注
关注
25文章
5505浏览量
134770 -
语言模型
+关注
关注
0文章
545浏览量
10359
发布评论请先 登录
相关推荐
腾讯正在与英特尔合作开发世界上第一款由 Lunar Lake 提供支持的“3D 视觉”游戏手持设备
![腾讯正在与<b class='flag-5'>英特尔</b>合作开发世界上第一款由 <b class='flag-5'>Lunar</b> <b class='flag-5'>Lake</b> 提供支持的“3D 视觉”游戏手持设备](https://file1.elecfans.com//web3/M00/00/43/wKgZPGdH5RKAJWLAAAJ9Wu_Jd7w36.webp)
英特尔酷睿Ultra 200V Lunar Lake处理器引领消费与商用市场新纪元
英特尔发布AI创作应用AI Playground,将于今夏正式上线!
![<b class='flag-5'>英特尔</b>发布<b class='flag-5'>AI</b>创作应用<b class='flag-5'>AI</b> Playground,将于今夏正式上线!](https://file1.elecfans.com//web2/M00/EE/76/wKgaomZroIqAWiOAAAEJucb6ueg817.png)
Lunar Lake:NPU性能全面提升,能耗也大幅降低,综合AI算力提升至120TOPS
![<b class='flag-5'>Lunar</b> <b class='flag-5'>Lake</b>:NPU<b class='flag-5'>性能</b>全面提升,能耗也大幅降低,综合<b class='flag-5'>AI</b>算力提升至120TOPS](https://file1.elecfans.com//web2/M00/EC/C8/wKgaomZgGYiAVUgeAABtwgtnYzs115.jpg)
英特尔发布新一代Lunar Lake处理器
英特尔为Lunar Lake架构优化图形驱动,首现光线追踪支持
![<b class='flag-5'>英特尔</b>为<b class='flag-5'>Lunar</b> <b class='flag-5'>Lake</b>架构优化图形驱动,首现光线追踪支持](https://file1.elecfans.com/web2/M00/EB/4E/wKgaomZYNOmAWuFgAADJEUQlM3g041.png)
评论