0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

甲骨文、微软再次合作!讨论共享AI服务器,应对算力短缺!

Carol Li 来源:电子发烧友网 作者:李弯弯 2023-05-12 01:23 次阅读

电子发烧友网报道(文/李弯弯)日前消息,据相关人士透露,甲骨文(Oracle)和微软(Microsoft)最近讨论了一项不同寻常的协议,如果任何一家公司为使用大规模AI的云客户提供的计算能力不足,双方将相互租用服务器。

这笔交易将帮助这两家互为竞争对手的云服务提供商满足市场对可运行AI软件的服务器日益增长的需求,这种需求已导致服务器短缺。

微软和甲骨文曾多次合作

微软和甲骨文虽然互为竞争对手,但却曾多次携手合作。2013年6月,微软与甲骨文宣布达成合作,将Java、甲骨文数据库以及其他甲骨文软件带到微软WindowsServerHyper-V和WindowsAzure云平台,这种合作为开发人员提供了极大的便利。

消费者可以在WindowsServerHyper-V和WindowsAzure上部署甲骨文软件,包括Java、甲骨文数据库、甲骨文WebLogicServer,甲骨文将提供完整支持。

作为合作的一部分,甲骨文将认证和支持自家软件在微软平台上的运行,并为WindowsAzure用户提供OracleLinux,微软也向WindowsAzure用户提供上述甲骨文软件。

甲骨文与微软的强强联合,Java开发人员和企业用户获益最大,甲骨文数据库与微软云计算平台的整合,使得他们可以直接将桌面上的传统软件迁移至云计算系统。

2019年6月,微软和甲骨文又宣布建立一个新的合作关系,两家公司将通过网络直连他们的云服务,以便用户可以在两者之间无缝地迁移其工作负载和数据。

微软和甲骨文发布的联合声明显示,企业用户将可以无缝地使用微软Azure的分析和人工智能等服务,以及甲骨文自主数据库等云服务。整体来说,双方为用户提供了一站式的服务,为用户提供经营整个企业的所有云服务和应用程序。

据分析,微软和甲骨文携手合作是为了应对共同的竞争压力。随着移动互联网快速发展,云计算市场重要性日益凸显。微软的AZure始终无法赶上亚马逊云服务AWS的步伐,甲骨文更是由于最初对云计算前景的估计失误而处境尴尬。

根据Synergy Research Group数据显示,亚马逊云服务以超过30%的市场占有率,成为全球云计算市场上的领跑者。微软Azure以大约15%的市场份额位列第二,紧随其后的是IBM Cloud以及谷歌Cloud。甲骨文(Oracle)这样的小型云计算服务商,更是在上述四大云计算巨头加强市场控制的压力下,业务增速有所放缓。两者携手合作对于双方来说都很有必要。

AI服务器需求快速增长

ChatGPT的出现掀起了全球AI大模型研究热潮,无论是训练还是推理,这都需要消耗大量的算力,尤其是训练阶段。以ChatGPT为例,根据OpenAI在2020年发表的论文,训练阶段算力需求与模型参数数量、训练数据集规模等有关,且为两者乘积的6倍:训练阶段算力需求=6×模型参数数量×训练集规模。

GPT-3模型参数约1750亿个,预训练数据量为45 TB,折合成训练集约为3000亿tokens。即训练阶段算力需求=6×1.75×1011×3×1011=3.15×1023 FLOPS=3.15×108 PFLOPS

依据谷歌论文,OpenAI公司训练GPT-3采用英伟达V100 GPU,有效算力比率为21.3%。GPT-3的实际算力需求应为1.48×109 PFLOPS(17117 PFLOPS-day)。

假设应用A100 640GB服务器进行训练,该服务器AI算力性能为5 PFLOPS,最大功率为6.5 kw,则根据测算,训练阶段需要服务器数量=训练阶段算力需求÷服务器AI算力性能=2.96×108台(同时工作1秒),即3423台服务器工作1日。

在ChatGPT及各种AI大模型的推进下,AI服务器市场需求呈现高速增长趋势。美国服务器供应商超微电脑在5月初的财报会议上表示,AI服务器业务正迎来创纪录暴涨。公司向主要客户交付新平台的速度加快,2023财年有望迎来强劲收尾。

不过也因为需求强劲,AI服务器硬件资源也面临短缺的问题,超微电脑就表示,AI服务器出货量可能会受到供应链瓶颈的限制。

事实上,今年3月微软公司就已经传出面临内部AI服务器硬件短缺的窘境。为此,微软不得不对硬件资源采取配额供应的方式,限制其他内部AI工具开发团队的使用量,从而确保基于GPT-4的新版必应聊天机器人和即将发布的新款Office工具获得足够的资源。

小结

可以看到,随着AI大模型的研究推进,算力需求与日俱增,AI服务器企业也迎来大幅增长。然而由于受到供应链,比如高算力GPU芯片等限制,AI服务器硬件资源仍然面临短缺。微软和甲骨文的再次携手合作,正是其应对当前困境的方式之一。




声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 微软
    +关注

    关注

    4

    文章

    6590

    浏览量

    104026
  • AI
    AI
    +关注

    关注

    87

    文章

    30734

    浏览量

    268896
收藏 人收藏

    评论

    相关推荐

    甲骨文:以AI为中心的基础架构赋能企业级生成式应用开发

    在今年的甲骨文全球云大会上,甲骨文公司推出了一款面向企业的创新开发基础设施——GenDev(Generative Development for Enterprise)。这款基础设施旨在通过前沿
    的头像 发表于 10-23 15:17 338次阅读

    亚马逊云科技与甲骨文合作推出新服务

    近日,亚马逊云科技(Amazon Web Services,简称AWS)与甲骨文(Oracle)宣布了一项重大合作,共同推出了Oracle Database@Amazon Web Services
    的头像 发表于 10-08 14:57 406次阅读

    甲骨文规划三座小型核电站赋能AI数据中心

    甲骨文公司近日宣布了一项重大能源战略,已获得授权建设三座小型模块化核反应堆,旨在为旗下庞大的AI数据中心提供清洁、稳定的电力支持。这一创新举措由公司董事长拉里·埃里森亲自披露,彰显了甲骨文在可持续发展与
    的头像 发表于 09-19 18:18 606次阅读

    甲骨文与亚马逊云部门建立合作伙伴关系

    甲骨文公司近期宣布了一项重大战略举措,正式与亚马逊云部门建立合作伙伴关系,这一决定标志着甲骨文在云计算和人工智能领域的布局迈出了重要一步。面对云计算市场的激烈竞争,甲骨文公司并未止步于
    的头像 发表于 09-19 16:55 327次阅读

    甲骨文发布Java 23

    全球领先的软件开发企业甲骨文(Oracle)近日隆重宣布推出Java 23(Oracle JDK 23),这一里程碑式的更新标志着全球排名第一的编程语言和开发平台再次迈出坚实步伐。Java 23不仅承载着无数开发者的期待,更以数千项精心设计的改进,为编程世界注入了新的活力
    的头像 发表于 09-19 16:36 345次阅读

    甲骨文携手Rai Way,强化AI应用与数据安全

    近日,全球领先的软件巨头甲骨文与意大利基础设施服务提供商Rai Way宣布达成重要合作。双方将携手在Rai Way分布广泛的数据中心部署甲骨文的人工智能应用系统,为企业客户带来前所未有
    的头像 发表于 07-27 17:19 2170次阅读

    服务器为什么选择GPU

    随着人工智能技术的快速普及,需求日益增长。智中心的服务器作为支撑大规模数据处理和计算的核心设备,其性能优化显得尤为关键。而GPU服务器
    的头像 发表于 07-25 08:28 609次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服务器</b>为什么选择GPU

    xAI与甲骨文百亿美元交易夭折,马斯克加速自主AI数据中心建设

    近日,科技界传来了一则令人瞩目的消息:埃隆·马斯克旗下的人工智能创业公司xAI与甲骨文公司之间一笔潜在的、价值高达100亿美元的服务器交易谈判宣告破裂。这一决策不仅标志着两家巨头在合作道路上的分道扬镳,也预示着xAI将采取更为激
    的头像 发表于 07-10 15:35 340次阅读

    甲骨文微软和OpenAl达成合作

    近日,科技巨头甲骨文(Oracle)、微软(Microsoft)和人工智能领域的佼佼者OpenAI宣布了一项令人瞩目的合作。根据合作协议,微软
    的头像 发表于 06-13 16:52 786次阅读

    巨头联手:甲骨文微软与OpenAI共创AI新纪元

    在当今数字化浪潮的推动下,人工智能(AI)已成为推动社会进步和技术革新的重要力量。在这个关键领域,甲骨文(Oracle)、微软(Microsoft)和OpenAI的紧密合作无疑为
    的头像 发表于 06-13 15:14 478次阅读

    甲骨文与谷歌云建立合作伙伴

    近日,全球领先的数据库和云技术提供商甲骨文(Oracle)与谷歌云(Google Cloud)共同宣布建立了一项意义深远的合作伙伴关系。这一战略联盟旨在为客户提供结合了甲骨文云基础设施(OCI)与谷歌云技术的独特解决方案,以支持
    的头像 发表于 06-12 17:22 917次阅读

    甲骨文微软与OpenAI携手,共创AI新纪元

    在数字化浪潮汹涌澎湃的当下,人工智能(AI)已成为推动科技进步和社会发展的重要力量。近日,甲骨文(Oracle)、微软(Microsoft)与OpenAI宣布了一项引人注目的合作,旨在
    的头像 发表于 06-12 15:08 512次阅读

    马斯克旗下人工智能初创公司xAI与甲骨文接近达成100亿美元服务器租用协议

    据报道,去年7月成立的马斯克旗下人工智能初创公司xAI正接近达成以100亿美元连续多年租赁甲骨文公司AI服务器的协议,打算在未来几年内斥资100亿美元从甲骨文租用云
    的头像 发表于 05-16 11:15 631次阅读

    马斯克旗下xAI与甲骨文达成100亿美元服务器租用协议

    据消息透露,马斯克的人工智能初创公司xAI正与甲骨文进行深度谈判。据悉,xAI计划在未来几年内斥资100亿美元从甲骨文租用云服务器,此举将使xAI成为甲骨文的重要客户之一。
    的头像 发表于 05-16 10:06 371次阅读

    甲骨文发布AI编程助手,助用户编写Java、SQL程序

    据悉,Oracle Code Assist基于甲骨文先进的云计算平台——Oracle Cloud Infrastructure (OCI)构建,重点优化各项Java、SQL程序以及OCI应用开发环节。
    的头像 发表于 05-13 10:19 536次阅读