0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

苹果转向谷歌芯片训练AI,或成弃用英伟达GPU首例

要长高 2024-07-30 16:06 次阅读

在7月29日这个令全球瞩目的日子里,苹果公司对外展示了其iPhone AI应用的首次预览版本,并同步发表了相关研究论文,而这篇论文十分明确地指出,苹果的深度学习人工智能模型正是在Google的TPU(张量处理单元)之上得到锻炼与提升的。在这篇论文中,我们可以详细了解到苹果为了支持其Apple Intelligence功能而精心打造的基础语言模型,其中包括一个专为在设备上高效运行而设计的大约三十亿参数模型以及一个基于私有云计算的云端大模型。

苹果公司在其官方发布的论文中对基础模型的建模过程进行了全面概述。

值得注意的是,苹果在发布的论文中明确表示,他们在八千一百九十二片TPU v4芯片上成功训练了云端AFM(Apple Foundation Model),并且采用了四千零九十六的序列长度和四千零九十六个序列的批量大小,完成了高达六点三万亿token的训练任务。同时,端侧AFM则在两千零四十八片TPU v5p芯片上进行了深度强化训练。由此可见,苹果此举无疑彰显了其在人工智能训练领域对包括英伟达图形处理单元在内的其他解决方案的探索意愿。

此外,根据某些具有影响力的芯片行业媒体报道,苹果此番举措其实已经拉开了其逐步脱离英伟达GPU依赖的序幕。分析师们在今年六月初对日本证券公司瑞穗证券做出的估算显示,英伟达在此前占据主导的AI芯片市场中,控制着用于训练和部署OpenAI的GPT等模型所需的AI芯片的70%-95%。虽然一些专家将这种市场份额形容为英伟达的“护城河”,但归根结底,他们还是认为这家实力雄厚的公司,凭借AI图形处理单元GPU(如标志性的H100)与自家独特的CUDA软件相结合的策略优势,才在这场激烈的竞争中抢占先机。

同样值得一提的是,包括谷歌、Meta(原Facebook),甲骨文及特斯拉在内的多家科技巨头也一直在倾力研发和打造自己的人工智能系统和产品。心智观察所的研究员潘攻愚先生对此表示,苹果宣布其Apple Foundation Model(AFM)在谷歌自主开发的Tensor处理单元(TPU)上进行训练,并且还租赁了谷歌的云服务。他进一步指出,苹果在AI训练方面的决策反映出了英伟达通用型AI加速器与谷歌的ASIC定制化AI服务体系之间的竞争愈发白热化。

始自2015年,谷歌一直依赖自主研发的TPU进行AI模型的训练与部署。其特殊之处在于并非以设计通用处理器见长,而是致力于打造具备矩阵处理能力的专用处理器,用于优化神经网络相关的大量运算与数据传输流程,无需直接访问内存,使得整体效率大幅提高。

今年五月份,谷歌发布公告,宣布推出全新的AI数据中心芯片Trillium。对比此前版型,该芯片性能实现了惊人的近乎5倍提速。公司透露,此款芯片将主要用于开发自身的AI模型,其中包括备受关注的Gemini以及Imagen项目。

谷歌方面公开表示,若早三年前预定,最新款TPU每小时使用费用甚至不足2美元。该产品最初于2015年应用于公司内部工作负载领域,随后于2017年公开对外销售,至今已成为专为AI量身定做且技术最为成熟的定制芯片之一。

然而,谷歌依然保持着对英伟达的高度忠诚,后者依然成为其最大的合作伙伴。利用英伟达的GPU和自家的TPU共同训练AI系统,同时在其云服务平台售卖英伟达技术的访问权限。

如同潘攻愚所分析的那样,“尽管英伟达在当前高端AI芯片市场拥有高达80%的份额,而谷歌等大型云服务商则占据了其余市场。特别值得一提的是,苹果今年采用的谷歌TPUv5虽在通用性上相较英伟达同类产品略显逊色,却主打性价比优势,总体拥有成本低于英伟达的四倍,且供货周期更短。现在,鉴于与谷歌之间微妙的竞争与合作关系,英伟达暂时不会轻易涉足ASIC领域。”

Meta首席执行官马克·扎克伯格及Alphabet首席执行官桑达尔·皮查伊在上周均发表观点,认为他们的企业以及业界同行可能在AI基础设施建设上投入过多,但同时也承认,如果不这样做,那么商业风险将会极高。一旦落伍,就意味着将失去未来10至15年内最具价值的技术主导权。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • Google
    +关注

    关注

    5

    文章

    1762

    浏览量

    57492
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4722

    浏览量

    128870
  • 苹果
    +关注

    关注

    61

    文章

    24391

    浏览量

    198474
  • AI
    AI
    +关注

    关注

    87

    文章

    30643

    浏览量

    268824
收藏 人收藏

    评论

    相关推荐

    AI大模型不再依赖英伟GPU苹果揭秘自研大模型

    ,获得足够的算力构建自己的计算中心,用于训练不同应用的AI模型。 AI领域众星捧月也造就了英伟市值曾突破三万亿美元,并短暂登顶全球第一的位
    的头像 发表于 08-05 06:07 3966次阅读
    <b class='flag-5'>AI</b>大模型不再依赖<b class='flag-5'>英伟</b><b class='flag-5'>达</b><b class='flag-5'>GPU</b>?<b class='flag-5'>苹果</b>揭秘自研大模型

    OpenAI与博通洽谈合作!定制化ASIC芯片走向台前,英伟GPU迎来“劲敌”?

    设计公司就开发新芯片进行洽谈,以减轻对英伟的依赖并加强供应链。   此外,据称OpenAI还聘请了曾参与谷歌张量处理单元(TPU)开发和生产的谷歌
    的头像 发表于 07-20 00:02 4864次阅读
    OpenAI与博通洽谈合作!定制化ASIC<b class='flag-5'>芯片</b>走向台前,<b class='flag-5'>英伟</b><b class='flag-5'>达</b><b class='flag-5'>GPU</b>迎来“劲敌”?

    Inflection AI转向英特尔Gaudi 3,放弃英伟GPU

    近日,人工智能技术公司Inflection AI宣布了一项重要决策,其最新的企业平台将放弃采用英伟(Nvidia)的GPU,转而选择英特尔的Gaudi 3加速器。
    的头像 发表于 10-10 17:21 475次阅读

    英伟Blackwell可支持10万亿参数模型AI训练,实时大语言模型推理

    。                       英伟Blackwell是通用计算全栈矩阵的终极解决方案,由多个英伟芯片组成,包括Blac
    的头像 发表于 09-04 09:10 2880次阅读

    苹果AI模型训练新动向:携手谷歌,未选英伟

    近日,苹果公司发布的最新研究报告揭示了其在人工智能领域的又一重要战略选择——采用谷歌设计的芯片训练AI模型,而非行业巨头
    的头像 发表于 08-01 18:11 915次阅读

    从TPU v1到Trillium TPU,苹果等科技公司使用谷歌TPU进行AI计算

    ,在训练尖端人工智能方面,大型科技公司正在寻找英伟以外的替代品。   不断迭代的谷歌TPU 芯片   随着机器学习算法,特别是深度学习算法
    的头像 发表于 07-31 01:08 3340次阅读

    苹果承认使用谷歌芯片训练AI

    苹果公司最近在一篇技术论文中披露,其先进的人工智能系统Apple Intelligence背后的两个关键AI模型,是在谷歌设计的云端芯片上完成预训练
    的头像 发表于 07-30 17:03 719次阅读

    英伟将全面转向开源GPU内核模块

    英伟公司近期宣布了一项重大决策,即全面转向开源GPU内核模块,并计划最终以此取代闭源驱动程序。这一战略转变标志着英伟
    的头像 发表于 07-19 15:26 556次阅读

    英伟AI芯片需求激增,封测厂订单量翻倍

    在全球半导体行业持续演进的背景下,英伟(NVIDIA)的AI芯片需求正迎来前所未有的增长。据悉,英伟
    的头像 发表于 06-24 18:05 1619次阅读

    英伟将推出融合Arm与Blackwell内核的AI PC芯片

    近日,业内传出英伟正在研发一款全新芯片的传闻。据悉,这款芯片将结合下一代Arm Cortex CPU内核与英伟
    的头像 发表于 05-31 10:31 589次阅读

    进一步解读英伟 Blackwell 架构、NVlink及GB200 超级芯片

    。 **英伟Blackwell架构在数据中心方面的应用有哪些?** 1. **AI **大模型训练 Blackwell 架构的 GPU
    发表于 05-13 17:16

    英伟发布新一代AI芯片架构Blackwell GPU

    近日,英伟首席执行官黄仁勋在GTC 2024会议上发表主题演讲,重磅推出全新AI芯片架构Blackwell GPU。这一创新技术的首款
    的头像 发表于 03-26 11:19 860次阅读

    FPGA在深度学习应用中将取代GPU

    上涨,因为事实表明,它们的 GPU训练和运行 深度学习模型 方面效果明显。实际上,英伟也已经对自己的业务进行了转型,之前它是一家纯粹做 GPU
    发表于 03-21 15:19

    英伟擅用版权作品遭起诉 AI训练数据和版权的矛盾凸显

    英伟擅用版权作品遭起诉 AI训练数据和版权的矛盾凸显 据外媒路透社的报道,AI训练数据和版权之
    的头像 发表于 03-11 14:17 549次阅读

    【机器视觉】欢创播报 | 英伟拿下全球90%的AI芯片市场

    1 英伟拿下全球90%的AI芯片市场 1月27日消息,作为人工智能领域“无可争议的领导者”,最新的数据显示,受益于过去一年生
    的头像 发表于 02-01 11:29 725次阅读