0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Graphcore三项变革性技术:计算、数据、通信

hl5C_deeptechch 来源:DeepTech深科技 作者:DeepTech深科技 2020-09-30 17:52 次阅读

“计算革命在计算机历史上只发生过三次,第一次是 70 年代的 CPU,第二次是 90 年代的 GPU,而 Graphcore 就是第三次革命,他们的芯片(IPU,智能处理单元)是这个世界伟大新架构的一种。”说这话的是 ARM 公司创始人、英国半导体之父赫尔曼·豪瑟(Hermann Hauser)。 他口中的 Graphcore,是来自英国的 AI 芯片公司。这家公司创办于2016年,在芯片领域有着多年经验的奈杰尔·图恩(Nigel Toon)担任联合创始人和 CEO,曾创办过两家处理器公司的西蒙·诺尔斯(Simon Knowles)担任联合创始人和 CTO。

这家分公司遍布多个国家和地区的公司,于 2019 年进入中国。9 月 19 日,DeepTech 和 Graphcore 高级副总裁兼中国区总经理卢涛,就相关问题进行了交流。

他表示,Graphcore 的主要技术是以 IPU 处理器、为 IPU 打造的Poplar 软件。基于 IPU 处理器和 Poplar 软件栈,Graphcore 的产品最后以用在IPU服务器中的PCIe 卡、IPU 系统产品 IPU-Machine和 IPU-POD 的形式呈现给用户。 Graphcore 已经取得了一些阶段性进展。截止目前,IPU 已达到一万多片的发货规模,并服务于全球超过 100 家的机构,其主要应用在互联网大规模数据中心、高校和科研机构等。同时,IPU 也在支撑医疗、金融、生命科学、汽车、金融和计算领域方面的应用。 2019 年初,AI 教父杰夫·欣顿(Geoff Hinton)在接受记者采访的时候,被问未来什么样的计算系统会更像大脑?他的回答是:“我认为我们需要转向不同类型的计算机。幸运的是,我这里有一个...” 欣顿伸手进入他的钱包,拿出一个又大又亮的硅片——一个 Graphcore IPU 芯片。IPU带来可持续发展路径
2016 年,全球 AI 产业进入高速发展阶段。在过去,大概每隔三个月,模型参数规模就会提高一倍。2018 年 10 月,谷歌的 BERT 模型有 3.3 亿个参数。2019 年3 月,OPEN AI 的大型语言模型 GPT-2 达到 15.5 亿个参数。2020 年,GPT-3 达到 1750亿个参数。GPT-3 模型完成一次完整训练,要耗费千万美金级别的花销。这样的密集计算,很难带来持续发展。那么,是否有可持续发展的路径? 在论文《EfficientNet:对卷积神经网络的模型缩放的重新思考》(EfficientNet:Rethinking Model Scaling for Convolutional Neural Networks)中,论文作者通过平衡神经网络的深度、宽度、图片分辨率,再通过找到平衡点、并把底层卷积改变之后,找到了大幅减小参数数量的方法,与此同时准确度也得到提升。卢涛认为,这是未来的代表方向之一。 2020 年上半年,微软机器学习科学家 Sujeeth Bharadwaj 分享了 IPU训练 CXR 模型的卓越性能,IPU 在运行微软COVID-19 影像分析算法 EfficientNet 和SONIC时表现亮眼,在 30 分钟内完成了英伟达传统芯片需 5 个小时的训练工作量。

图 | 微软用IPU和GPU训练用于新冠算法模型的对比 从 Graphcore 的角度来看,不管是 CPU 还是 GPU,都不是针对 AI 应用而生。CPU 是标量处理器,它主要做模拟性判断,用于帮助程序员针对固定模式进行编程。CPU 特别适合的架构是通过大量的模拟处理器开发手机 App 和外包服务器。GPU 是针对图像处理而生,相比 CPU 来说 GPU 在并行度和向量机上都有很大提升。 概括来说,GPU 主要应用在主流 AI 平台,它并不是为 AI 而生的处理器。Graphcore 进行大量分析后发现,AI 计算具有高度并行、低密度计算等特点,不管做图像处理模型、还是语言处理模型,都会在底层表达成一个计算图。卢涛认为,真正面向未来的 AI 处理器,必须是针对计算图来进行处理,而 Graphcore 的IPU 正是以计算图为核心的智能处理器。

三项变革性技术:计算、数据、通信

进入中国后,Graphcore 一直努力接近开发者,卢涛在 9 月 19 日中关村论坛的演讲结尾,特意提到该公司在中文网站 graphcore.cn、微信和知乎的开发者创新社区,并鼓励更多开发者来到上述平台,获取 Graphcore 的资源和支持来进行创新。 对此做法,他解释称,Graphcore 希望将权利移交给创新者。那么,首先要给创新者提供新的平台,让他有新的可能性。如果开发者的算法不适合 GPU,并不一定代表你的算法无效,而是你需要一个新平台。基于此,Graphcore 提供了非常先进的AI 处理器、以及大规模 IPU 集群系统。 2020 年 7 月 15 日,Graphcore 发布基于 7nm 的第二代 IPU 处理器——GC200,以及用于 Mk2m IPU 和 IPU 系统产品的技术:计算、数据、通信。

GC200 基于台积电 7nm 工艺,有 594 亿个晶体管,是当前单一芯片最大规模的处理器。GC200 仍然延续了第一代的“同构众核”架构,所不同的是,制造工艺从16nm,提升为最新的 7nm。 GC200 的处理器片上存储也从 300MB 提升到 900MB,晶体管数量超出英伟达2020 年 5 月发布最新旗舰 A100。GC200 的处理器核心从上一代的 1217 提升到1472,能执行 8832 个单独的并行线程,系统性能提升 8 倍以上。在数据处理方面,GC200 延续之前的高带宽高容量表现,这对于应对一些复杂 AI 模型及算法很有帮助,官方表示它可支持具有数千亿个参数的最大模型。 此外,Graphcore 还首次提出 IPU-EXCHANGE-MEMORY,这是一种交换式的储存架构。Graphcore在M2000每个IPU-Machine里面通过IPU-Exchange-Memory技术,提供了将近超过100倍的带宽以及大约10倍的容量,这对于很多复杂的AI模型算法是非常有帮助的。 针对 AI 计算集群,Graphcore 打造了 IPU-Fabric 技术,这是为 AI 横向扩展而生的通信技术,它的优点是弹性大、低时延。有了 IPU-Fabric 之后,用户可以轻松构建出高弹性低时延的计算平台。M2000是 Graphcore 推出的基于 GC200 的刀片型服务器,每片能提供 1PetaFlop 的算力支持。M2000 可以被看作是 Graphcore IPU 系统产品部署的最小单元,基于它可以很方便地创建各种规模的集群。

图| IPU-Fabric(来源:Graphcore)

Graphcore 协同 IPU 从零打造了一个以图为抽象编程模型的软件Poplar。通过这套软件SDK,不管是使用浪潮还是戴尔的服务器,更或者是使用单个 M2000 以及大规模计算系统 IPU-POD,Graphcore 都能使用同一套软件进行编程。 Graphcore 还在 Poplar 层面上,提供了很多软件库。以ML框架为例,其可以支持标准的 PyTorch、TensorFlow 与 ONNX 等。同时,Graphcore 认为,对一个系统而言,运维和管理也非常重要。为此,Graphcore 基于开源做了集群管理套件。 在整个处理器研发过程中,Graphcore 认为开放非常重要。卢涛表示,开源是因为创新需要对底层有很多可见度。Graphcore 认为要把权利移交给开发者,并于2020 年 7 月开源了所有的计算图库源代码和机器学习算法模型。 在构建社区方面,Graphcore 在金山云上构建了一个开发者云,其主要面向商业用户、高校、科研机构和个人研究者。卢涛表示,这一且都是为了帮助创新者,可以在在机器智能中实现下一波突破,以及帮助用户实现在 CPU、GPU 上没有办法实现的创新。 Graphcore 至今成立了四年多的时间,期间已得到红杉资本的支持,也获得了宝马、博世、微软、三星、DELL 等企业的投资。经过几年的发展,Graphcore 已经发展为遍布全球的机构。 对于加入中国,该公司创始人奈杰尔·图恩(Nigel Toon)表示:“有远见的中国公司已经开始着手布局自己在 AI 领域的蓝图。也许这就是为什么 Graphcore 在中国找到了热情,并如此深度的参与。Graphcore 已经开始为一些颇有建树的中国公司提供技术支持,并将助力推动中国那些发展最快、最具创新性的 AI 初创企业。” 卢涛也对 DeepTech 表示,中国的企业非常擅长把创新进行大批量的快速落地部署,Graphcore 觉得中国是最大的市场之一。在快速落地部署中,Graphcore 也可以进一步打磨自己的产品。此外,IPU 也能帮助用户释放出更多潜能,今天在CPU 和 GPU 上做不好的事情,在 IPU 上可能会释放极大潜力。

-End-

原文标题:一家英国明星芯片公司“悄然”入华!叫板英伟达A100,设定中国为其最大市场

文章出处:【微信公众号:DeepTech深科技】欢迎添加关注!文章转载请注明出处。

责任编辑:haq

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    454

    文章

    50426

    浏览量

    421858
  • 晶体管
    +关注

    关注

    77

    文章

    9635

    浏览量

    137854

原文标题:一家英国明星芯片公司“悄然”入华!叫板英伟达A100,设定中国为其最大市场

文章出处:【微信号:deeptechchina,微信公众号:deeptechchina】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    苹果iOS 18.2将推三项备忘录AI功能,提升创作效率

    11月6日,据外媒报道,苹果公司正筹备推出第二波Apple Intelligence(苹果智能)功能,并计划在下个月发布的iOS 18.2更新中,为备忘录应用带来三项关键的人工智能改进,旨在提升用户的创作效率和日常记录体验。
    的头像 发表于 11-06 14:58 371次阅读

    DEKRA德凯获得IECQ三项业务方案认可

    (ECD,IEC 62430)以及产品碳足迹核查(CFP,ISO 14067)三项业务方案认可。   HSPM(Hazardous Substance Process Management)是一种
    的头像 发表于 07-24 16:59 497次阅读

    艾迈斯欧司朗与greenteg推出的突破体温监测技术已成为全球铁人三项的关键技术支持

    ——其体温监测技术已成为全球铁人三项运动项目的关键技术支持。 这项创新的核心在于greenteg经过认证的CALERA®热通量传感器和算法。这些传感器可以轻松集成到智能可穿戴设备中,具有广泛的应用前景。而CALERA®传感器
    的头像 发表于 07-23 09:40 286次阅读
    艾迈斯欧司朗与greenteg推出的突破<b class='flag-5'>性</b>体温监测<b class='flag-5'>技术</b>已成为全球铁人<b class='flag-5'>三项</b>的关键<b class='flag-5'>技术</b>支持

    美格智能荣获“物联之星”三项重磅荣誉

    在盛大的中国智联网生态大会暨“2023物联之星”年度榜单颁奖典礼上,美格智能以卓越表现荣获三项重要荣誉。在上海举办的这场盛大活动中,美格智能凭借其在物联网技术研发和产品创新方面的显著成就,在近500
    的头像 发表于 05-06 09:33 527次阅读

    又双叒叕拿奖了,美格智能揽获“物联之星”三项重磅荣誉

    4月23日,中国智联网生态大会暨“2023物联之星”年度榜单颁奖典礼在上海举办。美格智能受邀出席,凭借物联网技术研发、产品创新等方面的突出成就,在近500家参评企业的激烈竞争中脱颖而出,揽获“中国物联网企业100强”“中国物联网行业创新产品榜”“中国物联网行业标杆案例榜”三项
    的头像 发表于 04-25 16:54 359次阅读
    又双叒叕拿奖了,美格智能揽获“物联之星”<b class='flag-5'>三项</b>重磅荣誉

    讯维融合通信:一场革命通信方式变革

    讯维融合通信确实引发了一场革命通信方式变革。它的核心技术主要体现在高度集成化和智能化上,通过融合各种
    的头像 发表于 04-12 16:29 364次阅读

    亚马逊云计算部门因侵犯数据存储专利赔偿5.25亿美元

    陪审团认定,亚马逊AWS侵犯了科夫公司三项关键专利,这些技术对亚马逊云业务的大规模数据存储与检索功能起到决定性作用。对此,亚马逊发表声明表示异议,并计划上诉。
    的头像 发表于 04-12 09:58 307次阅读

    【量子计算机重构未来 | 阅读体验】 跟我一起漫步量子计算

    的发展,我们的通信数据安全将得到更强大的保障。然而,需要指出的是,量子计算技术的发展仍面临诸多挑战。例如,量子计算机的构建和维护成本极高,目前仍停留在实验室阶段;同时,量子
    发表于 03-13 19:28

    维信诺主导三项柔性显示器件团体标准发布

    近日,维信诺昆山公司凭借其深厚的技术积累和行业影响力,主导制定并发布了三项团体标准:T/SOECC 014-2024《柔性显示器件 折痕测试方法》、T/SOECC 015-2024《柔性显示器
    的头像 发表于 03-13 10:37 877次阅读

    中兴通讯荣获GTI Awards 2024三项大奖,展现5G领域硬核实力

    近日,在备受瞩目的MWC24巴塞罗那大会上,中兴通讯凭借其卓越的技术创新和应用实力,荣获了三项GTI Awards 2024大奖。这些奖项不仅是对中兴通讯在5G领域的突出贡献的认可,更是对其持续引领行业发展的肯定。
    的头像 发表于 03-03 15:40 929次阅读

    纳微半导体斩获三项功率器件行业大奖

    近日,纳微半导体在第十四届“亚洲电源技术发展论坛”上大放异彩,不仅展出了多款大小功率的杰出展品,还发表了以电动汽车充电为主题的重磅演讲。更令人瞩目的是,纳微半导体凭借其卓越的技术和产品实力,一举斩获了三项行业重磅大奖!
    的头像 发表于 01-03 16:01 581次阅读

    三项SOTA!MasQCLIP:开放词汇通用图像分割新网络

    MasQCLIP在开放词汇实例分割、语义分割和全景分割三项任务上均实现了SOTA,涨点非常明显。这里也推荐工坊推出的新课程《彻底搞懂视觉-惯性SLAM:VINS-Fusion原理精讲与源码剖析》。
    的头像 发表于 12-12 11:23 759次阅读
    <b class='flag-5'>三项</b>SOTA!MasQCLIP:开放词汇通用图像分割新网络

    三项交流电主轴电机启动后转子无法转动却左右剧烈摆动是什么原因呀?

    一台数控齿轮磨床三项交流电主轴砂轮主轴电机主轴带编码器,启动后转子无法转动却左右剧烈摆动。什么原因呀?编码器和主轴电机驱动器均已更换,电机绕组已检查无短路断路三项绕阻平衡。请版主帮帮忙呀!
    发表于 12-12 06:07

    喜讯!瑞隆源三项产品入选“2023年度广东省名优高新技术产品”

    近日,瑞隆源电子三项产品通过了广东省高新技术企业协会官网《2023年广东省名优高新技术产品名单》的公示期,成功入选为“2023年度广东省名优高新技术产品”。
    的头像 发表于 12-06 16:25 594次阅读

    安富利荣获Nordic三项大奖!

    11月6日,安富利荣获全球先进的集成电路硬件及软件供应商Nordic颁发的三项大奖——授予安富利中国团队中表现突出的“Nordic大使”、“最佳分销FAE”奖,以及授予安富利亚洲团队的“年度分销商”奖项。
    的头像 发表于 11-28 17:07 542次阅读