0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

以昇思为基,盘古生态引领中国AI未来

智能计算芯世界 来源:半导体行业观察 2023-04-13 10:18 次阅读

尽管提倡在整个行业范围内停止人工智能训练,但据报道,埃隆·马斯克 (Elon Musk)已经在 Twitter 内启动了一个重大的人工智能项目。据Business Insider报道,该公司已经购买了大约 10,000 个 GPU,并从 DeepMind 招募了 AI 人才,用于涉及大型语言模型 (LLM) 的项目 。

以昇思为基,盘古生态引领中国AI未来

一位知情人士表示,马斯克的 AI 项目仍处于初始阶段。然而,根据另一个人的说法,获得大量额外的计算能力表明他致力于推进该项目。同时,生成人工智能的确切目的尚不清楚,但潜在的应用包括改进搜索功能或生成有针对性的广告内容。

目前,尚不清楚 Twitter 采购了哪些具体硬件。然而,据报道,尽管 Twitter 一直存在财务问题,但据报道 Twitter 在这些计算 GPU 上花费了数千万美元,马斯克将其描述为“不稳定的财务状况”。这些 GPU 预计将部署在 Twitter 剩余的两个数据中心之一,亚特兰大是最有可能的目的地。有趣的是,马斯克在 12 月下旬关闭了 Twitter 在萨克拉门托的主要数据中心,这显然降低了公司的计算能力。

除了为其生成式 AI 项目购买 GPU 硬件外,Twitter 还在招聘更多的工程师。今年早些时候,该公司从Alphabet 的子公司AI Research DeepMind招募了工程师 Igor Babuschkin 和 Manuel Kroiss。至少从 2 月开始,马斯克一直在积极寻找 AI 行业的人才,以与 OpenAI 的 ChatGPT 竞争。

OpenAI使用Nvidia 的 A100 GPU 来训练其 ChatGPT 机器人,并继续使用这些机器来运行它。到目前为止,Nvidia 已经推出了 A100 的后继产品,其H100计算 GPU 在大约相同的功率下速度快了几倍。

Twitter 可能会在其 AI 项目中使用 Nvidia 的 Hopper H100 或类似硬件,尽管我们在此进行推测。考虑到该公司尚未确定其 AI 项目的用途,因此很难估计它可能需要多少个 Hopper GPU。

通常Twitter 这样的大公司购买硬件时,他们会以特价购买,因为他们采购了数千台。与此同时,如果单独从 CDW 等零售商处购买,Nvidia 的 H100 主板单价可能超过 10,000 美元,由此可以看出该公司可能为其 AI 计划在硬件上花费了多少。

ChatGPT迈向商用,GPU需求上看3万颗

ChatGPT近期掀起云端与AI产业话题,Microsoft、Google、百度等相继推出基于生成式AI衍生的产品服务,根据集邦(TrendForce)最新报告「从AIGC看云端AI应用趋势与挑战」,未来迈向商用将上看3万颗;在此热潮下, GPU及AI芯片相关供应链业者可望受惠。

不过,集邦指出,市场普及度和产品服务的功能优化仍待考验,且由于AI是以用户体验为核心,涉及个资及内容提供的正确性,因此下个发展阶段或将还会面临法规问题。

TrendForce表示,生成式AI是透过GAN、CLIP、Transformer、Diffusion等演算法、预训练模型、多模态等AI技术的整合,在既有数据或资料中寻找规律,并在资料汇整、社交互动、文案产出等领域带出高效的内容产出,以及与用户互动体验。现行市面上已有不少生成式AI之应用,较常见的产出类别包括文字、图像、音乐、编码等。

集邦表示,数据、算力、算法是深耕生成式AI不可或缺的三大关键,且产品服务易做但优化困难,因此,握有相关资源的云端大厂在发展上将更具优势。就厂商角度而言,由于ChatGPT等生成式AI聊天机器人不仅能与用户自然对话,「类理解需求」的能力使其针对各式咨询能进一步提供建议,加上使用搜寻引擎已相当普遍,因此透过强化搜寻引擎已是各云端大厂的首要任务。

据TrendForce调查,目前全球搜寻引擎市场以超过9成的Google引擎为首,Microsoft Bing仅占3%,短期间不致造成威胁,但随着用户扩大、数据回馈与模型优化的循环,是否会产生服务差异甚或抢占广告商机,也是Google不得不预防的潜在风险。

集邦表示,由于生成式AI必须投入巨量资料进行训练,为缩短训练就得采用大量高效能GPU。以ChatGPT背后的GPT模型为例,其训练参数从2018年约1.2亿个到2020年已暴增至近1,800亿个,估GPU需求量预估约2万颗,未来迈向商用将上看3万颗。

集邦表示,生成式AI发展将成为趋势,将带动GPU需求显著提升,连带使相关供应链受惠,其中最大受益者是GPU芯片龙头的英伟达(NVIDIA),旗下可达到5 PetaFLOPS运算效能的DGX A100,几乎是目前用于大规模资料分析、AI加速运算的首选;此外,尚有推出MI100、MI200、MI300系列芯片的超微(AMD)。

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    29999

    浏览量

    268301
  • 人工智能
    +关注

    关注

    1791

    文章

    46783

    浏览量

    237385
  • ChatGPT
    +关注

    关注

    29

    文章

    1548

    浏览量

    7444

原文标题:买10000个GPU,入局大模型

文章出处:【微信号:AI_Architect,微信公众号:智能计算芯世界】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    中移芯获第十九届“中国芯”优秀“芯生态”企业奖

    推动国家集成电路产业高质量发展,11月7日,由中国电子信息产业发展研究院主办的2024中国微电子产业促进大会暨第十九届“中国芯”优秀产品征集结果发布仪式在横琴粤澳深度合作区隆重举行。
    的头像 发表于 11-12 01:04 233次阅读
    中移芯<b class='flag-5'>昇</b>获第十九届“<b class='flag-5'>中国</b>芯”优秀“芯<b class='flag-5'>生态</b>”企业奖

    香橙派与MindSpore合作提速,软硬结合助力开发者构建创新AI应用

    近日,MindSpore开源社区与香橙派合作成果加速落地,持续开发者提供普惠的端侧算力与好用的AI框架,软硬结合助力高校AI课程建设,
    的头像 发表于 11-01 17:02 674次阅读
    香橙派与<b class='flag-5'>昇</b><b class='flag-5'>思</b>MindSpore合作提速,软硬结合助力开发者构建创新<b class='flag-5'>AI</b>应用

    技术引领生态,万物智联创未来,凌智电子襄盛举

    第三届开放原子开源基金会OpenHarmony技术大会“技术引领生态,万物智联创未来”为主题,于2024年10月12-13日在上海世博中心盛大召开。本次大会由OpenHarmony
    的头像 发表于 10-13 08:05 171次阅读
    技术<b class='flag-5'>引领</b>筑<b class='flag-5'>生态</b>,万物智联创<b class='flag-5'>未来</b>,凌智电子襄盛举

    请回答OpenHarmony | 关于开源生态未来想象,我们现场回答

    第三届OpenHarmony技术大会即将启幕 今年相聚,OpenHarmony又迎来了怎样的突破与发展? 在万物智联的时代,如何通过技术创新引领智能未来? OpenHarmony的开源力量如何推动
    发表于 10-12 00:09

    研华发布高性能工业边缘 AI 算力方案 携手引领边缘 AI 革新

    上海2024年9月25日 /美通社/ -- 全球工业物联网厂商研华公司(股票代号:2395.TW)今日在中国工业博览会现场隆重举办 "研华×腾边缘 AI 战略合作暨新品发布会",携手
    的头像 发表于 09-26 10:54 267次阅读
    研华发布高性能工业边缘 <b class='flag-5'>AI</b> 算力方案 携手<b class='flag-5'>昇</b>腾<b class='flag-5'>引领</b>边缘 <b class='flag-5'>AI</b> 革新

    腾与原生,助力智谱打造自主创新大模型体系!

    自从腾全面启动原生开发,越来越多的生态伙伴选择腾,大模型生态从“应用迁移”走向“原生开发”,充分依托
    的头像 发表于 08-20 18:29 396次阅读
    <b class='flag-5'>昇</b>腾与<b class='flag-5'>昇</b><b class='flag-5'>思</b>原生,助力智谱打造自主创新大模型体系!

    香橙派亮相AI开发者创享日,打造“AI+鸿蒙”高算力开发板

    6月29日,AI开发者创享日·广东站在广州成功举办。本次活动汇聚人工智能领域顶尖人才,开发者带来AI
    的头像 发表于 07-05 15:31 560次阅读
    香橙派亮相<b class='flag-5'>昇</b>腾<b class='flag-5'>AI</b>开发者创享日,打造“<b class='flag-5'>AI</b>+鸿蒙”高算力开发板

    创新驱动,海博创构建储能产业新生态

    在全球能源转型的浪潮中,中国储能产业展现出强大的生命力和巨大的市场潜力。自2022年起,中国已超越美国,成为全球最大的储能市场,引领着全球储能产业的发展方向。在这股潮流中,海博
    的头像 发表于 05-15 15:06 483次阅读
    <b class='flag-5'>以</b>创新<b class='flag-5'>为</b>驱动,海博<b class='flag-5'>思</b>创构建储能产业新<b class='flag-5'>生态</b>

    软通动力受邀参加华为举办的“AI框架及大模型技术论坛”

    5月11日,鲲鹏腾开发者大会2024期间,华为举办“AI框架及大模型技术论坛”,软通动力数字基础设施与集成事业部总经理谢睿受邀出席、软通动力数字基础设施与集成事业部技术总监单继岭
    的头像 发表于 05-13 09:30 477次阅读

    人工智能框架峰会2024圆满落幕|软通动力大模型一体机发布

    北京2024年3月26日 /美通社/ -- 2024年3月22日] 人工智能框架作为软件根技术,已成为加速人工智能大模型开发、推动产业智能化发展的核心力量。"智而创之源"为主
    的头像 发表于 03-26 17:42 643次阅读
    <b class='flag-5'>昇</b><b class='flag-5'>思</b>人工智能框架峰会2024圆满落幕|软通动力大模型一体机发布

    AI大模型将如何推动中国产业升级?华为盘古大模型深耕千行万业

    AI大模型将如何推动中国产业升级?日前,华为混合云副总裁胡玉海在做客央视网《中国神气局》时,畅谈AI大模型发展趋势以及如何助力产业创新。胡玉海表示,
    的头像 发表于 03-22 10:40 556次阅读

    中移芯生态伙伴产品亮相中国移动“2024创新产业链合作促进大会”

    链筑产业生态,数智引领未来。1月18日,由中国移动通信集团主办,雄安新区管理委员会改革发展局、中国移动通信集团河北有限公司承办的“2024创
    的头像 发表于 01-26 08:18 587次阅读
    中移芯<b class='flag-5'>昇</b>携<b class='flag-5'>生态</b>伙伴产品亮相<b class='flag-5'>中国</b>移动“2024创新产业链合作促进大会”

    华为举办鸿蒙生态千帆启航仪式,余承东公布HarmonyOS NEXT开放申请

    据余承东介绍,实现核心竞争力的突破,华为通过多年的努力构建出一套包含鸿蒙内核、ArkTS/仓颉编程语言、方舟编译器/毕编译器、ArkUI以及盘古AI大模型等在内的完整
    的头像 发表于 01-19 09:34 808次阅读

    引领AI未来 | 软通动力携手华为云联合成立泰国AI云智社区

    12月18日,引领AI未来”为主题的华为云泰国首届AI主题峰会在曼谷举行,政企客户、本地伙伴、中资伙伴、开发者等千人参会,围绕“
    的头像 发表于 12-20 09:45 381次阅读
    <b class='flag-5'>引领</b><b class='flag-5'>AI</b><b class='flag-5'>未来</b> | 软通动力携手华为云联合成立泰国<b class='flag-5'>AI</b>云智社区

    华为云发布三大基础方案和AI出海计划 加速大模型生态发展

    ,华为云重磅发布了基于盘古大模型打造的三大基础解决方案和华为云AI出海计划。 华为云EI服务产品部部长尤鹏做开场致辞,分享了盘古大模型生态
    的头像 发表于 11-23 11:25 471次阅读