0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

IBM推出Telum II处理器 Spyre AI 加速器,强力支持人工智能业务需求

半导体芯科技SiSC 来源:半导体芯科技SiSC 作者:半导体芯科技SiS 2024-08-28 16:36 次阅读

来源:聚大模型前言

在 Hot Chips 2024 上,IBM 宣布了其下一代大型机技术,其中包括 Telum II 处理器和 Spyre AI 加速器。这两款产品将显着提高 IBM Z 系统上的 AI 功能,满足企业对高效、安全和可扩展 AI 解决方案的需求。

IBM Telum II 处理器是 IBM z16 的核心,集成了深度学习推理能力,通过硬件直接集成了 AI 加速功能,企业在无需额外硬件的情况下,即可实现实时数据分析和决策制定。Telum II 处理器的 AI 加速计算能力比上代 Telum 处理器提升四倍,并且通过一致性连接的处理集群,进一步提升了性能。

Telum II 处理器通过增加 L2、L3 和 L4 缓存的大小,缓存容量较上代增加了 40%,显著改善了芯片外带宽和延迟性能。此外,Telum II 处理器的时钟频率达到 5.5 GHz ,可以提供更快的处理速度。Telum II 还增加了用于 I/O 加速的新数据处理单元 (DPU)。该单元可以提高数据处理效率,I/O 密度提高 50%。DPU 可以简化系统操作并提高数据密集型应用程序和人工智能工作负载的性能。

安全性方面,Telum II 处理器支持包括量子安全加密在内的高级加密技术。此外,Telum II 处理器在 A 和 Z 总线链接上提供了改进的安全性能,进一步保护了企业的数据安全。能效方面, Telum II 处理器通过优化功率消耗,有效降低了 IBM z16 的能源消耗。基于集中式 IO 和 DPU 设计,Telum II 降低了高达 15% 的核心功率,进一步提高了能源效率。

与 Telum II 处理器一同推出的还有 IBM Spyre AI 加速器。Spyre 加速器拥有 32 个独立的加速器核心,并且包含 25.6 亿个晶体管,支持 int4、int8、fp8 和 fp16 数据类型,使用 5 纳米工艺生产。每个 Spyre 加速器都安装在 PCIe 卡上,这些卡可以集群化,为单个 IBM Z 系统增加大量的加速器核心。

wKgZombO4ZuAc81sAAEG0_kqIZA643.jpg

Spyre 加速器支持在本地进行生成式 AI 和模型微调,使 IBM Z 系统能够处理更复杂的 AI 工作负载。Spyre 加速器的架构可以直接将数据从一个计算引擎发送到下一个,从而节省了能源。此外,Spyre 加速器使用一系列较低精度的数值格式,如 int4 和 int8,这使得运行 AI 模型更加节能且对内存的需求更少。

Telum II 处理器和 Spyre AI 加速器的结合,企业用户能够直接在 Z 平台上安全高效地运行人工智能应用程序。Telum II 可以处理大规模 AI 工作负载和数据密集型业务需求,而 Spyre 加速器可以处理复杂的 AI 模型和生成式 AI 用例,所有这些都不会影响 IBM Z 环境的安全性和可靠性。

Telum II处理器和Spyre加速器都将采用三星代工厂的5纳米工艺技术制造。预计这些产品将于 2025 年向客户提供。

【近期会议】

10月30-31日,由宽禁带半导体国家工程研究中心主办的“化合物半导体先进技术及应用大会”将首次与大家在江苏·常州相见,邀您齐聚常州新城希尔顿酒店,解耦产业链市场布局!https://w.lwc.cn/s/uueAru

11月28-29日,“第二届半导体先进封测产业技术创新大会”将再次与各位相见于厦门,秉承“延续去年,创新今年”的思想,仍将由云天半导体与厦门大学联合主办,雅时国际商讯承办,邀您齐聚厦门·海沧融信华邑酒店共探行业发展!诚邀您报名参会:https://w.lwc.cn/s/n6FFne

声明:本网站部分文章转载自网络,转发仅为更大范围传播。 转载文章版权归原作者所有,如有异议,请联系我们修改或删除。联系邮箱:viviz@actintl.com.hk, 电话:0755-25988573

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 处理器
    +关注

    关注

    68

    文章

    19281

    浏览量

    229789
  • IBM
    IBM
    +关注

    关注

    3

    文章

    1757

    浏览量

    74691
  • AI
    AI
    +关注

    关注

    87

    文章

    30851

    浏览量

    269026
  • 人工智能
    +关注

    关注

    1791

    文章

    47259

    浏览量

    238427
收藏 人收藏

    评论

    相关推荐

    Banana Pi 携手 ArmSoM 推出人工智能加速 RK3576 CM5 计算模块

    的机器学习和人工智能 (ML 和 AI) 工作负载,以及 Arm Mali G52-MC3 图形处理器支持 H.264/H.265/MJPEG 编码和 H.265/H.265/VP9
    发表于 12-11 18:38

    IBM与AMD携手部署MI300X加速器,强化AI与HPC能力

    举措预计将于2025年上半年正式推出。 此次合作的核心目标是提升通用人工智能(AI)模型的性能与能效,并为企业客户提供高性能计算(HPC)应用的强大支持。AMD的Instinct MI
    的头像 发表于 11-21 11:07 227次阅读

    IBM与AMD携手将在IBM云上部署AMD Instinct MI300X加速器

    合作服务预计将于2025年上半年正式推出。AMD Instinct MI300X加速器作为AMD在高性能计算领域的旗舰产品,将为IBM云上的AI应用提供强大的计算
    的头像 发表于 11-19 11:03 457次阅读

    微软携手英伟达与GitHub推出生成式AI加速器

    近日,微软宣布在英国推出一项重大合作项目——生成式人工智能加速器。这一项目由微软、英伟达和GitHub三家科技巨头强强联手,旨在加速生成式人工智能
    的头像 发表于 11-05 14:58 397次阅读

    AI for Science:人工智能驱动科学创新》第4章-AI与生命科学读后感

    阅读这一章后,我深感人工智能与生命科学的结合正引领着一场前所未有的科学革命,以下是我个人的读后感: 1. 技术革新与生命科学进步 这一章详细阐述了人工智能如何通过其强大的数据处理和分析能力,
    发表于 10-14 09:21

    AI for Science:人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

    人工智能:科学研究的加速器 第一章清晰地阐述了人工智能作为科学研究工具的强大功能。通过机器学习、深度学习等先进技术,AI能够处理和分析海量
    发表于 10-14 09:12

    Samtec AI 应用详述 | 人工智能加速器所需的连接

    数据挖掘、人工智能、机器学习、商业分析。 高性能互连是中央处理器(CPU)和人工智能加速器之间的纽带,在实现这些系统所需的可扩展性和灵活性方面发挥着至关重要的作用。 今天,我们将在文章
    发表于 09-29 13:44 576次阅读
    Samtec <b class='flag-5'>AI</b> 应用详述 | <b class='flag-5'>人工智能</b><b class='flag-5'>加速器</b>所需的连接<b class='flag-5'>器</b>

    risc-v在人工智能图像处理应用前景分析

    、RISC-V在人工智能图像处理中的应用案例 目前,已有多个案例展示了RISC-V在人工智能图像处理中的应用潜力。例如: Esperanto技术公司 :该公司制造的首款高性能RISC-
    发表于 09-28 11:00

    IBM发布Telum II处理器:DPU性能飙升70%,引领技术创新浪潮

    国际商业机器公司(IBM)震撼发布其下一代Telum II处理器,这款创新产品专为IBM Z系列主机量身打造,内置了强化版的
    的头像 发表于 08-28 16:52 602次阅读

    处理器人工智能方面的应用

    处理器人工智能AI)方面的应用日益广泛且深入,成为了推动AI技术发展的重要力量。本文将从微处理器
    的头像 发表于 08-22 14:21 983次阅读

    美国限制向中东AI加速器出口,审查国家安全

    AI加速器能协助数据中心处理大量人工智能聊天机器人和其他工具的开发信息。如今,它们已然成为构建AI基础设施的企业和政府的必需品。
    的头像 发表于 05-31 09:20 589次阅读

    Hailo获1.2亿美元新融资,首发AI加速器Hailo-10,助力边缘设备实现生成式人工智能

    技术引入边缘计算领域,为行业发展注入新动力。 边缘人工智能处理器的领先芯片制造商Hailo近日宣布C轮融资再获1.2亿美元投资。与此同时,Hailo还推出创新型Hailo-10高性能生成式人工
    的头像 发表于 04-03 11:57 339次阅读

    瑞萨发布下一代动态可重构人工智能处理器加速器

    瑞萨最新发布的动态可重构人工智能处理器(DRP-AI加速器,在业界引起了广泛关注。这款加速器拥有卓越的10 TOPS/W高功率效率,相比传
    的头像 发表于 03-08 13:45 770次阅读

    家居智能化,推动AI加速器的发展

    电子发烧友网报道(文/黄山明)AI加速芯片,也称为人工智能加速器AI Accelerator),是一种专为执行机器学习和深度学习任务而设计
    的头像 发表于 02-23 00:18 4590次阅读

    英伟达、AMD在2024年继续全力冲刺人工智能加速器市场

    英伟达、AMD在2024年继续全力冲刺人工智能AI加速器市场。
    的头像 发表于 01-08 17:27 1219次阅读
    英伟达、AMD在2024年继续全力冲刺<b class='flag-5'>人工智能</b><b class='flag-5'>加速器</b>市场