0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

IBM推出Telum II处理器 Spyre AI 加速器,强力支持人工智能业务需求

半导体芯科技SiSC 来源:半导体芯科技SiSC 作者:半导体芯科技SiS 2024-08-28 16:36 次阅读

来源:聚大模型前言

在 Hot Chips 2024 上,IBM 宣布了其下一代大型机技术,其中包括 Telum II 处理器和 Spyre AI 加速器。这两款产品将显着提高 IBM Z 系统上的 AI 功能,满足企业对高效、安全和可扩展 AI 解决方案的需求。

IBM Telum II 处理器是 IBM z16 的核心,集成了深度学习推理能力,通过硬件直接集成了 AI 加速功能,企业在无需额外硬件的情况下,即可实现实时数据分析和决策制定。Telum II 处理器的 AI 加速计算能力比上代 Telum 处理器提升四倍,并且通过一致性连接的处理集群,进一步提升了性能。

Telum II 处理器通过增加 L2、L3 和 L4 缓存的大小,缓存容量较上代增加了 40%,显著改善了芯片外带宽和延迟性能。此外,Telum II 处理器的时钟频率达到 5.5 GHz ,可以提供更快的处理速度。Telum II 还增加了用于 I/O 加速的新数据处理单元 (DPU)。该单元可以提高数据处理效率,I/O 密度提高 50%。DPU 可以简化系统操作并提高数据密集型应用程序和人工智能工作负载的性能。

安全性方面,Telum II 处理器支持包括量子安全加密在内的高级加密技术。此外,Telum II 处理器在 A 和 Z 总线链接上提供了改进的安全性能,进一步保护了企业的数据安全。能效方面, Telum II 处理器通过优化功率消耗,有效降低了 IBM z16 的能源消耗。基于集中式 IO 和 DPU 设计,Telum II 降低了高达 15% 的核心功率,进一步提高了能源效率。

与 Telum II 处理器一同推出的还有 IBM Spyre AI 加速器。Spyre 加速器拥有 32 个独立的加速器核心,并且包含 25.6 亿个晶体管,支持 int4、int8、fp8 和 fp16 数据类型,使用 5 纳米工艺生产。每个 Spyre 加速器都安装在 PCIe 卡上,这些卡可以集群化,为单个 IBM Z 系统增加大量的加速器核心。

wKgZombO4ZuAc81sAAEG0_kqIZA643.jpg

Spyre 加速器支持在本地进行生成式 AI 和模型微调,使 IBM Z 系统能够处理更复杂的 AI 工作负载。Spyre 加速器的架构可以直接将数据从一个计算引擎发送到下一个,从而节省了能源。此外,Spyre 加速器使用一系列较低精度的数值格式,如 int4 和 int8,这使得运行 AI 模型更加节能且对内存的需求更少。

Telum II 处理器和 Spyre AI 加速器的结合,企业用户能够直接在 Z 平台上安全高效地运行人工智能应用程序。Telum II 可以处理大规模 AI 工作负载和数据密集型业务需求,而 Spyre 加速器可以处理复杂的 AI 模型和生成式 AI 用例,所有这些都不会影响 IBM Z 环境的安全性和可靠性。

Telum II处理器和Spyre加速器都将采用三星代工厂的5纳米工艺技术制造。预计这些产品将于 2025 年向客户提供。

【近期会议】

10月30-31日,由宽禁带半导体国家工程研究中心主办的“化合物半导体先进技术及应用大会”将首次与大家在江苏·常州相见,邀您齐聚常州新城希尔顿酒店,解耦产业链市场布局!https://w.lwc.cn/s/uueAru

11月28-29日,“第二届半导体先进封测产业技术创新大会”将再次与各位相见于厦门,秉承“延续去年,创新今年”的思想,仍将由云天半导体与厦门大学联合主办,雅时国际商讯承办,邀您齐聚厦门·海沧融信华邑酒店共探行业发展!诚邀您报名参会:https://w.lwc.cn/s/n6FFne

声明:本网站部分文章转载自网络,转发仅为更大范围传播。 转载文章版权归原作者所有,如有异议,请联系我们修改或删除。联系邮箱:viviz@actintl.com.hk, 电话:0755-25988573

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 处理器
    +关注

    关注

    68

    文章

    18907

    浏览量

    227162
  • IBM
    IBM
    +关注

    关注

    3

    文章

    1729

    浏览量

    74470
  • AI
    AI
    +关注

    关注

    87

    文章

    28821

    浏览量

    266157
  • 人工智能
    +关注

    关注

    1787

    文章

    46025

    浏览量

    234860
收藏 人收藏

    评论

    相关推荐

    人工智能ai4s试读申请

    目前人工智能在绘画对话等大模型领域应用广阔,ai4s也是方兴未艾。但是如何有效利用ai4s工具助力科研是个需要研究的课题,本书对ai4s基本原理和原则,方法进行描诉,有利于总结经验,拟
    发表于 09-09 15:36

    IBM发布Telum II处理器:DPU性能飙升70%,引领技术创新浪潮

    国际商业机器公司(IBM)震撼发布其下一代Telum II处理器,这款创新产品专为IBM Z系列主机量身打造,内置了强化版的
    的头像 发表于 08-28 16:52 410次阅读

    处理器人工智能方面的应用

    处理器人工智能AI)方面的应用日益广泛且深入,成为了推动AI技术发展的重要力量。本文将从微处理器
    的头像 发表于 08-22 14:21 574次阅读

    FPGA在人工智能中的应用有哪些?

    定制化的硬件设计,提高了硬件的灵活性和适应性。 综上所述,FPGA在人工智能领域的应用前景广阔,不仅可以用于深度学习的加速和云计算的加速,还可以针对特定应用场景进行定制化计算,为人工智能
    发表于 07-29 17:05

    美国限制向中东AI加速器出口,审查国家安全

    AI加速器能协助数据中心处理大量人工智能聊天机器人和其他工具的开发信息。如今,它们已然成为构建AI基础设施的企业和政府的必需品。
    的头像 发表于 05-31 09:20 393次阅读

    Hailo获1.2亿美元新融资,首发AI加速器Hailo-10,助力边缘设备实现生成式人工智能

    技术引入边缘计算领域,为行业发展注入新动力。 边缘人工智能处理器的领先芯片制造商Hailo近日宣布C轮融资再获1.2亿美元投资。与此同时,Hailo还推出创新型Hailo-10高性能生成式人工
    的头像 发表于 04-03 11:57 222次阅读

    瑞萨发布下一代动态可重构人工智能处理器加速器

    瑞萨最新发布的动态可重构人工智能处理器(DRP-AI加速器,在业界引起了广泛关注。这款加速器拥有卓越的10 TOPS/W高功率效率,相比传
    的头像 发表于 03-08 13:45 583次阅读

    家居智能化,推动AI加速器的发展

    电子发烧友网报道(文/黄山明)AI加速芯片,也称为人工智能加速器AI Accelerator),是一种专为执行机器学习和深度学习任务而设计
    的头像 发表于 02-23 00:18 4397次阅读

    英伟达、AMD在2024年继续全力冲刺人工智能加速器市场

    英伟达、AMD在2024年继续全力冲刺人工智能AI加速器市场。
    的头像 发表于 01-08 17:27 1042次阅读
    英伟达、AMD在2024年继续全力冲刺<b class='flag-5'>人工智能</b><b class='flag-5'>加速器</b>市场

    AMD Instinct加速器、AMD EPYC处理器为Microsoft带来全新AI和计算能力

    — AMD Instinct加速器将为针对AI进行优化的全新Microsoft Azure虚拟机系列提供动力 — — 第四代AMD EPYC处理器现在还被用于运行新一代通用、内存密集型和计算优化型
    的头像 发表于 12-04 13:54 502次阅读

    PCIe在AI加速器中的作用

    从线上购物时的“猜你喜欢”、到高等级自动驾驶汽车上的实时交通信息接收,再到在线视频游戏,所有的这些都离不开人工智能AI加速器AI加速器
    的头像 发表于 11-18 10:36 1762次阅读
    PCIe在<b class='flag-5'>AI</b><b class='flag-5'>加速器</b>中的作用

    人工智能工作负载正在颠覆处理器设计

    人工智能工作负载正在以一些意想不到的方式改变处理器设计。
    的头像 发表于 11-15 09:28 975次阅读

    Hailo拓展Hailo-8人工智能加速器产品阵列,助力边缘设备实现高性能人工智能

    摘要:新的Hailo-8 Century和Hailo-8L AI加速器通过广泛的人工智能平台扩展了Hailo-8产品阵列,可在入门级和高要求边缘设备中实现高性能人工智能。 边缘
    的头像 发表于 11-07 10:16 425次阅读

    低功耗下,高能效AI加速器如何设计?

    如果在数据中心和边缘设备中部署上人工智能AI加速器,那么它们将能够快速处理PB级的数据量,还能帮助克服传统的冯·诺依曼瓶颈。
    的头像 发表于 10-26 09:18 1236次阅读

    ai人工智能机器人

    随着时间的推移,人工智能的发展越来越成熟,智能时代也离人们越来越近,近几年人工智能越来越火爆,人工智能的应用已经开始渗透到各行各业,与生活交融,成为人们无法拒绝,无法失去的一个重要存在
    发表于 09-21 11:09