4 月 7 日讯,AMD 最新公布了一系列基准测试,宣称其锐龙移动版 7040 Phoenix 和 8040 系列处理器在运行大型语言模型 (LLM) 领域的效能领先于 Intel 最新 Skylake Coffee Lake U Refresh Core i7-155Hz 达 79%。
据悉,此次测试针对 AMD 锐龙 7 8740U 及 Intel Core Ultra 7 155Hz两种芯片进行了对比,两者均内含硬件神经网络处理单元(NPU)。AMD 利用多幅幻灯片展示了两颗处理器在参与 Mistral 7b、Llama v2 以及 Mistral Instruct 7B 等大型语言模型的效能差异。具体来说,在采用 Q4 位宽的Llama v2 对话测试环节,AMD 处理器性能优于 Intel 产品 14%;在其他相同设定条件下,AMD 器件性能较Core Ultra 7 提高 17%。
同样在上述大型语言模型测试中,AMD 处理器反应速度明显加快。以Llama v2 对话测试中的“首个 Token生成提示词”速率比拼为例,AMD 工作效率比 Intel 高出 79%,且在 Mistral Instruct 测试中达到 41%的提速。
AMD 还提供了多种质量参数的 Llama v2 7B 对话测试数据,总体而言,锐龙 7 7840U 平均效能比 Intel 竞品高出 55%,在 Q8 位宽设置中甚至有 70%的进步。但 AMD 亦指出,在实际运行大语言模型时,选用 4 位 K M 量化可实现更佳效,如需极高精度度的编码任务,建议使用 5 位 K M 量化模式。
然而,目前看来,AMD 在人工智能性能上暂占上风。虽然理论上,锐龙 7040 系列架构在计算性能(TOPS)上与 Meteor Lake 持平,但早在去年年底,Tom‘s Hardware 即发现在 AI 负载方面,AMD 总是能战胜 Meteor Lake。这显而易见是软件优化问题,并非硬件或驱动程序故障所致。
然而,未来情况未必如此。无论是在神经网络处理单元领域,还是在AI性能优化领域,未来规划与发展都尚无定论。尽管如此,我们有理由相信,随着时间推移,格局或许将有所变动。
综合来看,现阶段AMD的NPU性能尤为出色,尤其是具备强大NPU性能的锐龙 8040 系列处理器。然而随着Intel年底推出新款Lunar Lake移动CPU及完善其人工智能优化议程,情况恐生变数。
-
处理器
+关注
关注
68文章
18621浏览量
224834 -
amd
+关注
关注
25文章
5279浏览量
132990 -
语言模型
+关注
关注
0文章
470浏览量
10171
发布评论请先 登录
相关推荐
英特尔发布AI创作应用AI Playground,将于今夏正式上线!
![<b class='flag-5'>英特尔</b>发布<b class='flag-5'>AI</b>创作应用<b class='flag-5'>AI</b> Playground,将于今夏正式上线!](https://file1.elecfans.com//web2/M00/EE/76/wKgaomZroIqAWiOAAAEJucb6ueg817.png)
Lunar Lake:NPU性能全面提升,能耗也大幅降低,综合AI算力提升至120TOPS
![<b class='flag-5'>Lunar</b> <b class='flag-5'>Lake</b>:NPU<b class='flag-5'>性能</b>全面提升,能耗也大幅降低,综合<b class='flag-5'>AI</b>算力提升至120TOPS](https://file1.elecfans.com//web2/M00/EC/C8/wKgaomZgGYiAVUgeAABtwgtnYzs115.jpg)
英特尔发布新一代Lunar Lake处理器
英特尔为Lunar Lake架构优化图形驱动,首现光线追踪支持
![<b class='flag-5'>英特尔</b>为<b class='flag-5'>Lunar</b> <b class='flag-5'>Lake</b>架构优化图形驱动,首现光线追踪支持](https://file1.elecfans.com/web2/M00/EB/4E/wKgaomZYNOmAWuFgAADJEUQlM3g041.png)
英特尔Lunar Lake处理器即将上市
英特尔Lunar Lake处理器2024年第三季度上市,AI性能将提升3倍
AI PC市场争霸:英特尔、AMD、高通芯片算力谁主沉浮?
英特尔Arrow Lake和Lunar Lake性能揭晓:无超线程,性能提升显著
Cirrus Logic与英特尔和微软在全新的PC参考设计上进行合作
Lunar Lake处理器笔记本最早今年上市,2025年大规模发售
英特尔Arrow Lake与Lunar Lake处理器现身Sandra基准
英特尔新处理器,掀AI PC战火
传英特尔明年推出的Lunar Lake CPU将由台积电代工
![](https://file1.elecfans.com/web2/M00/AC/8E/wKgZomU7eJCACNjJAAVgjrOVjzA637.png)
评论