0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Microsoft Azure推出VIDIA A100 GPU VM系列

NVIDIA英伟达 来源:NVIDIA英伟达 作者:NVIDIA英伟达 2021-06-11 16:53 次阅读

近日 Microsoft Azure 宣布正式推出 ND A100 v4 VM 系列,这是适用于超级计算级 AI 和 HPC 负载的强大虚拟机,由 NVIDIA A100 Tensor Core GPU 和 NVIDIA HDR InfiniBand 提供支持。

NVIDIA 与 Azure 合作构建了这款新的纵向扩展和横向扩展 AI 平台,整合了开创性 NVIDIA Ampere 架构 GPU、NVIDIA 网络技术以及 Azure 高性能互联和虚拟机网络的强大功能,让人人都能使用 AI 超级计算。

在应对 AI 和高性能计算面临的巨大挑战时,规模是重中之重。得益于加速计算,自然语言处理、推荐系统、医疗健康研究、药物研发和能源以及其他领域均取得了巨大进展。

大部分进展源自大规模运行的应用程序。为加速这一趋势,应用程序所基于的运行架构必须灵活易用,并且可以纵向扩展和横向扩展。

ND A100 v4 VM 在单个 VM 中汇集了八个 NVIDIA A100 GPU,并且搭载 NVIDIA HDR InfiniBand,使每个 GPU 都获得 200 Gb/s 的数据带宽。总体每个 VM 的互联带宽高达 1.6 Tb/s。

对于要求严苛的 AI 和高性能计算工作负载,可以进一步扩展为数千个 NVIDIA A100 GPU 规模同时维持相同的超低延迟 InfiniBand 网络,为多节点分布式计算提供强大的计算和网络功能。

适合开发者

开发者有多种选择,可通过 ND A100 v4 VM 中的 NVIDIA A100 GPU 为其应用程序提供出色性能,这些应用程序部署后,既用于应用程序开发,也用于管理基础设施。

为简化和加速开发,NVIDIA NGC 目录提供即用型 GPU 优化应用程序框架、容器、预训练模型、库、SDK 和 Helm 图表。借助 Azure Marketplace 上适用于 AI 和高性能计算的预构建 NVIDIA GPU 优化镜像,开发者只需单击几下即可开始从 NGC 目录使用 GPU 加速软件。

ND A100 v4 VM 还支持在 Azure 机器学习服务中使用,适用于交互式 AI 开发、分布式训练、批量推理和 ML 运算自动化。

使用 ND A100 v4 VM 在生产环境中部署机器学习管线,这一流程因 NVIDIA Triton 推理服务器而得到进一步简化。NVIDIA Triton 推理服务器是一款开源推理服务应用程序,与 Azure ML 集成,可更大限度地提高 GPU 和 CPU 的性能和利用率,从而将部署运营成本降至更低。

开发者和基础设施经理很快也能使用 Azure Kubernetes Service,这是一项完全托管的 Kubernetes 服务,用于部署和管理 ND A100 v4 VM(支持 NVIDIA A100 GPU)上的容器化应用程序。

更多相关信息,请点击“阅读原文”,观看《Azure:借助势头正劲的 AI 和高性能计算赋能世界》 GTC21 主题演讲。

原文标题:Microsoft Azure 宣布正式推出 NVIDIA A100 GPU VM

文章出处:【微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。

责任编辑:haq

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    4848

    浏览量

    102704
  • AI
    AI
    +关注

    关注

    87

    文章

    29780

    浏览量

    268055
  • Microsoft
    +关注

    关注

    0

    文章

    208

    浏览量

    6822

原文标题:Microsoft Azure 宣布正式推出 NVIDIA A100 GPU VM

文章出处:【微信号:NVIDIA_China,微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    阿里云暂停A100服务器出租,AI算力奇缺!国产AI芯片任重道远

    电子发烧友网报道(文/李弯弯)上个月,美国发布更新针对AI芯片的出口管制规定,新措施意在填补去年10月发布法规中的漏洞。这样意味着,除了英伟达A100/H100之外,其针对中国市场推出的替代版本
    的头像 发表于 11-09 09:08 4160次阅读

    基于Arm Neoverse的微软全新Azure虚拟机上线

    软件的优化来满足此类需求。近期,微软宣布基于 Azure Cobalt 100 处理器的新 Azure 虚拟机 (VM) 全面上线,其中 Azure
    的头像 发表于 10-27 11:00 310次阅读

    Microsoft AI 推进行业企业智慧化创新

    突破与进展,并同步更新了在Microsoft Build 2024全球开发者大会上发布的一系列Azure AI新服务与新功能、加速壮大的Microsoft Copilot智能副驾驶 技
    的头像 发表于 06-17 16:59 950次阅读

    Microsoft Azure墨西哥区域正式发布(GA)!

    Azure是全球三大公有云中第一家上线墨西哥区域的云平台!
    的头像 发表于 05-13 10:27 340次阅读

    英伟达H200和A100的区别

    英伟达H200和A100两款芯片在性能、架构、内存以及应用场景等多个方面存在显著的区别。
    的头像 发表于 03-07 16:23 3240次阅读

    英伟达H200和A100的差异

    英伟达H200和A100在多个方面存在差异。
    的头像 发表于 03-07 16:18 2147次阅读

    2024年,GPU能降价吗?

    首当其冲的就是A100GPU。OpenAI使用的是3,617台HGXA100服务器,包含近3万块英伟达GPU。国内云计算相关专家认为,做好AI大模型的算力最低门槛是1万枚英伟达A100
    的头像 发表于 01-03 15:57 797次阅读
    2024年,<b class='flag-5'>GPU</b>能降价吗?

    英伟达和华为/海思主流GPU型号性能参考

    一句话总结,H100 vs. A100:3 倍性能,2 倍价格 值得注意的是,HCCS vs. NVLINK的GPU 间带宽。 对于 8 卡 A800 和 910B 模块而言,
    发表于 12-29 11:43 5161次阅读
    英伟达和华为/海思主流<b class='flag-5'>GPU</b>型号性能参考

    浅谈微软Azure Cobalt 100内核关键技术

    微软在自家芯片制造领域再次取得新突破,推出Azure Cobalt 100,这是一款128核 Arm Neoverse N2 设计的CPU。这事是微软在云端计算领域不断深耕人工智能和大数据处理的体现,也需要对供应链多样性的进一
    发表于 12-04 09:57 547次阅读
    浅谈微软<b class='flag-5'>Azure</b> Cobalt <b class='flag-5'>100</b>内核关键技术

    微软发布自研AI芯片——Azure Maia100

    Azure Maia 是一款AI 加速器芯片,用于OpenAI 模型、ChatGPT、Bing、GitHub Copilot 等AI 工作负载,Azure Maia 100 则是该系列
    发表于 11-17 11:49 366次阅读

    NVIDIA 在 Microsoft Azure推出面向全球企业和初创公司的生成式 AI Foundry 服务

    AI Enterprise 软件进行部署 NVIDIA 于今日推出一项 AI foundry 服务,助力企业和初创公司在 Microsoft Azure 上开发、调优和部署其自定义生成式 AI
    的头像 发表于 11-16 21:15 477次阅读

    NVIDIA 在 Microsoft Azure推出面向全球企业和初创公司的 生成式 AI Foundry 服务

    AI Enterprise 软件进行部署       Microsoft Ignite — 2023 年 11 月 15 日 — NVIDIA 于今日推出一项 AI foundry 服务,助力企业
    发表于 11-16 14:13 310次阅读
    NVIDIA 在 <b class='flag-5'>Microsoft</b> <b class='flag-5'>Azure</b> 上<b class='flag-5'>推出</b>面向全球企业和初创公司的 生成式 AI Foundry 服务

    对英伟达A100芯片算力服务收费价格上调100%,这家企业的硬气来自哪里?

    半导体芯情了解到,A100是英伟达最新推出的一款高性能计算芯片,采用了全新的Ampere架构,Ampere架构是NVIDIA于 GTC 2020发布的GPU架构,NVIDIA Ampere 由540亿晶体管组成,是7nm芯片。
    的头像 发表于 11-14 16:30 1158次阅读
    对英伟达<b class='flag-5'>A100</b>芯片算力服务收费价格上调<b class='flag-5'>100</b>%,这家企业的硬气来自哪里?

    2023年AI现状报告(收藏)

    2023年,所有的目光都集中在英伟达新推出的H100 GPU上,它是A100更强大的后继者。虽然H100集群正在建设中(并非没有障碍),但研
    的头像 发表于 11-14 15:56 600次阅读
    2023年AI现状报告(收藏)

    CPU、GPU和内存知识科普

    本文内容包括CPU、内存和GPU知识,本期重点更新GPU和CPU部分知识。比如:GPU更新包括架构演进,最新产品A100、选型策略、架构分析、散热和规格分类等。
    的头像 发表于 11-13 11:47 1794次阅读
    CPU、<b class='flag-5'>GPU</b>和内存知识科普