华为云，让AI算力入山河

整个2023年，全球科技界都在为大模型沸腾。云计算产业作为AI大模型与产业场景间的最短路径，自然也在大模型浪潮中备受关注。目前阶段，云厂商已经纷纷入局大模型，从多个角度探索大模型带给云计算产业的可能性。

但我们往往会忽略这样一个关键节点：“百模千态”的大模型，第一项挑战是AI算力。而做好大模型服务，首当其冲也要做好算力服务。

在AI算力这个最为基础的能力中，隐藏着AI云服务如何能走向更远的真正答案。

9月21日，在华为全联接大会2023期间，华为常务董事、华为云CEO张平安围绕“共建智能世界云底座，让AI重塑千行万业”发表主题演讲，发布盘古大模型在矿山、政务、汽车、气象、医学、数字人、研发等领域的创新服务，并宣布华为云昇腾AI云服务正式上线，加快让千行万业实现大模型普惠。围绕盘古大模型落地，本次华为云分享的主题是“解难题，做难事”。让AI算力能用、够用、好用、有大用，就是华为云解开的第一道难题。

算力入山河，AI始落地。

为了做好这件重要的“难事”，昇腾AI云服务出发了。

大山大河，需要AI大算力

信息革命以来，人类逐步发现科技创新的幅度与算力消耗成正比，这一点在大模型身上又一次得到了印证。

大模型的出现和成熟，给千行万业智能化带来了全新的机遇。可以说，每个行业的每个场景都值得融入大模型，甚至其中大部分可以被大模型所重塑。而无论是大模型本身模型规模大、数据参数多的特点，还是各个行业涌现的大模型需求，都指向同一个结果：社会生产体系所消耗的AI算力，将得到指数级提升。

大模型需要大算力，已经成为了行业共识。但如果我们具体打开这个问题，会发现围绕AI算力产生的产业挑战非常多样。我们可以将其概括为供需矛盾、能效挑战、运维需求、安全顾虑四种。

先来看AI算力最为核心的挑战，即供需之间客观上的不平衡。

截至2023年7月，中国累计已经有130个大模型问世。“百模大战”带来了AI算力的巨量增长。根据相关数据报告，过去10年全球AI算力需求增长了30万倍，而未来10年我们还面临着需求500倍的增长。根据《2022-2023中国人工智能计算力发展评估报告》显示，在2022年中国进行的AI计算总量已经超过了通用计算。在可见的未来，AI算力将会变成社会各界需求量最大、供需缺口最大、资源最为紧张的计算形态。

其次是大模型与大算力，带来了尖锐的能效问题。

由于大模型训练需要集群式AI计算，因此其训练任务大量依靠数据中心，而AI服务器的功率密度远超普通服务器，单机柜的功耗是过去的6到8倍。在双碳大背景下，数据中心的能效比必须持续下降，因此大模型带来的计算能效问题已刻不容缓。如何在AI算力提升与能效比下降之间达成平衡，成为了产业界必须面对的问题。

除此之外，我们还要看到AI算力在应用过程中发生了一系列运维难题。由于大模型的训练、部署目标各不相同，各自的训练与部署环境也差异巨大，期间也自然会产生网络时延、模型可靠性、运维管理门槛等运维问题。举个例子，一些大模型需要极大量级的算力集群来支撑，而大量服务器与计算单元之间的协同往往会出现问题，一旦计算单元出现问题，研发人员就需要重启训练。大模型训练中巨大的时间、人才、算力成本消耗，就发生在频繁的故障与重启训练任务当中。因此，大模型不仅需要AI算力充足，还需要算力服务精细，帮助用户降低整体运维难题。

最后，我们还要看到大模型带来新的安全顾虑。

由于大模型的部署场景大多事关国计民生，因此其安全隐患必须全部扫清。在数据访问、存储加密、传输安全等领域，大模型目前还存在着诸多的安全隐患。

整体而言，大模型并不是高度一致化的产品。其本身技术分类复杂、工程化路径多变，并且各个用户还需要根据自身需求进行大模型的精调与订制化工作。这些问题让大模型对AI算力服务有了多方面、多角度的差异化需求。

满足大模型的AI算力需求，已经成为了大模型时代的头一道考题。

把昇腾AI云服务做实，做精，做成竞争力

对于华为云来说，要把算力这道题答好，需要兼顾两方面的建设：一个是如何让AI算力充足可用，另一个是如何跨越算力服务在运维、安全、能效等方面的挑战。AI算力既要做实，还要做精。

今年7月，华为云发布了最新的昇腾AI云服务，可以为千行万业的用户提供澎湃AI算力。在其背后，是华为云坚实的算力基础设施建设。

截至目前，华为云在贵安、乌兰察布、芜湖建设了3大AI算力中心。基于此，昇腾AI云服务在全国范围内实现了20ms的时延圈。用户可以实现就近接入，一根光纤即可联接澎湃的AI算力，服务即开即用。为确保大模型训练数据的全生命周期安全，昇腾AI云服务还采用了数据传输与存储加密、数据安全清除、数据访问控制、数据水印防泄露等多重技术。值得注意的是，无论对于企业还是社会整体，云服务都是能效比最优的双碳时代AI算力获取方式。

为了实现AI算力的极致性能，华为云还在基础设施之上进行了针对AI云服务的技术优化。比如ModelArts提供了数据、训练、推理三层加速，通过DataTurbo数据加速技术能够利用计算节点存储资源构建分布式缓存，将数据读取时延降低至亚毫秒级。TrainTurbo训练加速技术可以实现在训练数据超过100T时数据读取时间缩短50%，并使能整体训练效率提升20%以上。在模型的推理环节，InferTurbo推理加速技术通过图编译技术加速模型推理，通过全链路垂直协同优化，将大模型的推理性能提升30%。

在这样强大基建与核心技术加持下，用户可以获得极致的AI计算性能，而为了让算力不仅“够用”，还要“好用”，华为云进行了一系列把AI算力“做精”的探索。

比如说，AI开发有赖于工具与平台的全面。昇腾AI云服务背后，有着异构计算架构CANN、全场景AI框架昇思MindSpore、AI开发生产线ModelArts等一系列华为持续打造的AI底层开发工具与技术平台，从而为大模型提供分布式并行加速，算子和编译优化、集群级通信优化等关键能力，奠定AI算力服务的根技术加持。

如上文所说，在大模型训练、部署过程中还面临着一系列运维、能效等问题。在算力服务的优化方面，昇腾AI云服务可以提供更长稳的AI算力服务，千卡训练30天长稳率达到90%，还可以实现分钟级信息获取、2小时定界、24小时提供解决方案，断点恢复时长不超过10分钟，任务恢复时长小于半小时。

在模型迁移方面，华为云为用户提供了迁移工具链，并集成全栈的开发工具，能够实现典型模型迁移效率低至2周，主流场景自助迁移。此外，昇腾AI云服务还适配了业界主流的开源大模型，如LLAMA、Stable Diffusion等，从而真正让昇腾AI云服务满足“百模千态”的大模型需求。

对于运动员来说，基本功就是竞争力。在云+大模型的赛道上，华为云通过基建、技术、服务的集成，也把AI算力练成了竞争力。

澎湃易用的AI算力，是大模型产业化落地的基石，也是一切故事的开端。

算力，技术，场景：构筑大模型正循环

在大模型这个突然到来的巨大智能化机遇面前，千行万业的用户有着差异化巨大的需求。有人缺少算力，有人需要模型，有人寻觅场景，也有人需要特定技术工具的帮助。任何一个条件的缺失，都会让大模型的飞轮无法旋转。

换个角度看，算力资源、技术工具、模型的场景化应用都能变成支点。这些要素可以通过全栈配合、彼此推动的方式，帮助企业用户和开发者走上大模型之路。

华为云提供的昇腾AI云服务，不仅AI算力能用、够用，好用，还能通过与华为云一系列布局进行联动，让大模型从此“有大用”，从而共同实现盘古大模型解难题，做难事。

比如说，我们能够看到众多技术创新与昇腾AI云服务相辅相成，共同解决着AI算力需求大、供给难的挑战。华为云最新发布的分布式QingTian架构就有着这样的效果。

以AIGC为代表的大模型应用，算力需求特点是高度依赖分布式计算能力，这也对算力架构产生了新的挑战。分布式QingTian架构作为新一代对等架构，能够将传统的数据中心算力集群，演变为基于高速总线的对等池化系统集群，从而打破单一部件的性能限制，实现软硬协同、管控面全卸载、资源与性能零损耗，最终为用户带来性能、可靠性、安全可信等方面的极致体验。

除此之外，华为云还围绕不断发展的AI需求，在AI云存储、GaussDB向量数据库、数智融合、Serverless+大模型工程套件等一系列领域进行了技术创新，从系统架构层、数据处理层、模型训练层、应用开发层实现系统性创新，从而扫清了用户使用AI云服务过程中的障碍，让AI算力真正对齐到千行万业的场景化需求。

在基础AI算力与系列技术创新之上，就是华为云提供的盘古系列大模型。在华为全联接大会2023上，我们也可以看到盘古大模型在行业中有了更为深入的场景化落地。

在汽车行业，盘古汽车大模型能够覆盖车企的设计、生产、营销、研发等环节，并在自动驾驶训练、专用场景落地等领域发挥独特价值。在自动驾驶领域，盘古汽车大模型可基于实际场景采集的照片和视频，构建该场景的数字孪生空间，加入可移动的物体、可编辑的天气、光照等，生成供自动驾驶学习的场景样本。在港口、矿区等作业场景，盘古汽车大模型的多场景、多车型控制算法，可让60吨的重卡横向误差小于0.2米、精准停靠误差小于0.1米。目前在新疆疆纳矿业和内蒙古伊敏露天煤矿，已有23辆无人重卡在矿山中24小时不间断作业。

在直播+数字人领域，盘古数字人大模型基于十万级高质量直播话术进行预训练，能够自动生成专业话术，从而准确、流利地介绍产品，并且还能自动捕捉弹幕和观众实时互动。在贵州丹寨，盘古数字人大模型已经让非遗产业蜡染走向全球。

总结一下不难发现，华为云已经形成AI算力作为底座，技术创新作为驱动，盘古大模型融入行业场景为导向的“大模型正循环”。澎湃AI算力可以带动大模型的使用；技术创新将不断降低大模型的门槛；行业场景将带动大模型规模化落地。算力推动场景和技术发展；技术进步实现算力得到充分释放，场景价值被深入挖掘；场景的进步将带动算力建设，引领技术进步。三者滚动向前，吸引千行万业在云上寻找大模型的答案。

以算力为基础，以算力为钥匙，让AI融入山河大地——这便是华为云的AI长歌。