0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA与思科合作打造企业级生成式AI基础设施

NVIDIA英伟达企业解决方案 来源: NVIDIA英伟达企业解决方案 2024-10-10 09:35 次阅读

由 NVIDIA 加速计算平台、NVIDIA AI Enterprise 软件和 NVIDIA NIM 推理微服务加持的思科 Nexus HyperFabric AI 集群解决方案在 Cisco Live 上首次亮相。

大规模构建和部署 AI 应用程序需要一种新型计算基础设施,此基础设施能够提供生成式 AI 模型所需的海量数据、算力和网络带宽。

为了更好地确保这些模型以最佳、高效的方式运行,NVIDIA 正在与思科合作,打造企业级生成式 AI 基础设施。

思科与 NVIDIA 合作开发的全新 Nexus HyperFabric AI 集群解决方案为企业提供了实现生成式 AI 的途径。思科 HyperFabric 是一款企业级端到端基础设施解决方案,并可支持生成式 AI 工作负载。它将 NVIDIA 加速计算和 AI 软件与思科 AI 原生网络和强大的 VAST 数据平台相结合。

思科网络数据中心和提供商连接高级副总裁兼总经理 Kevin Wollenweber 表示:“企业应用程序正在向生成式 AI 应用程序转型,随之而来的是大幅增加的数据处理要求和整体基础设施的复杂性。思科与 NVIDIA 正在携手推进 HyperFabric,为全球企业带来生成式 AI,使其能够将自己的数据和领域专长转化为生产力和洞察。”

助力企业级 AI 集群解决方案

该解决方案的基础是NVIDIA Tensor Core GPU,它提供了处理海量数据集所需的加速计算。该解决方案所采用的NVIDIA AI Enterprise云原生软件平台可作为企业 AI 操作系统。NVIDIA AI Enterprise 简化了生产级 AI copilot 和其他生成式 AI 应用程序的开发和部署,确保了优化的性能、安全性和应用编程接口的稳定性。

包含在 NVIDIA AI Enterprise 中的NVIDIA NIM推理微服务能够在加速基础模型部署的同时确保数据安全。NIM 微服务旨在弥合复杂的 AI 开发与企业运营需求之间的差距。随着各行各业的企业纷纷开始使用 AI,NVIDIA NIM 与思科 Nexus HyperFabric AI 集群的结合,将能够支持从构思到开发和部署生产级 AI 应用程序的全过程。

思科 Nexus HyperFabric AI 集群解决方案集成了 NVIDIA Tensor Core GPU 以及NVIDIA BlueField-3 SuperNIC和 DPU,以增强系统性能和安全性。SuperNIC 提供先进的网络功能,确保基础设施的无缝高速连接。BlueField-3 DPU 能够卸载、加速和隔离基础设施服务,从而创建更高效的 AI 解决方案。

BlueField-3 DPU 还可以运行思科 Hypershield 解决方案等安全服务,该解决方案支持 AI 原生、超分布式安全架构,让安全性更接近需要保护的工作负载。作为两家公司的又一项重要合作成果,思科 Hypershield 更侧重于创建由 AI 驱动的安全解决方案。

与 NVIDIA 一起见证 Cisco Live

通过 Cisco Live 进一步了解思科与 NVIDIA 如何赋能生成式 AI。本届 Cisco Live 在拉斯维加斯举行,两家公司在 Cisco AI Hub 上展示了 NVIDIA AI 技术,并分享企业开始使用 AI 的最佳实践。

观看以下会议,了解如何与 NVIDIA、思科和其他生态系统合作伙伴一起加速生成式 AI:

主题演讲深度内容:“驾驭大胆的新时代:转变数据中心和服务提供商的连接”。主讲人:NVIDIA 的 Kevin Deierling,以及思科的 Jonathan Davidson、Kevin Wollenweber、Jeremy Foster 和 Bill Gartner,时间:太平洋时间 6 月 5 日下午 1:00 - 2:00

AI Hub 会场演讲:“利用 NVIDIA 推理微服务随处加速和部署生成式 AI”。主讲人:NVIDIA 销售与业务开发副总裁 Marty Jain,时间:太平洋时间 6 月 4 日下午 2:15 - 2:45

WWT AI Hub 展位:NVIDIA 的 Jain 与 WWT 云、基础设施和 AI 解决方案副总裁 Neil Anderson 的思想领导力访谈,时间:太平洋时间 6 月 5 日上午 10:00 - 11:00

NetApp 会场:“在 FlexPod 上利用 NVIDIA 推理微服务加速生成式 AI”。主讲人:NVIDIA 战略平台和解决方案负责人 Sicong Ji,时间:太平洋时间 6 月 5 日下午 1:30 - 1:40

Pure Storage 会场:“在 FlashStack 上利用 NVIDIA 推理微服务加速生成式 AI”。主讲人:NVIDIA 销售联盟经理 Joslyn Shakur,时间:太平洋时间 6 月 5 日下午 2:00 - 2:10

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    4812

    浏览量

    102609
  • 思科
    +关注

    关注

    0

    文章

    295

    浏览量

    32137
  • 生成式AI
    +关注

    关注

    0

    文章

    472

    浏览量

    434

原文标题:NVIDIA 与思科携手打造生成式 AI 基础设施

文章出处:【微信号:NVIDIA-Enterprise,微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    NVIDIA AI助力SAP生成AI助手Joule加速发展

    在美国佛罗里达州奥兰多举行的 SAP Sapphire 大会上,NVIDIA 与这家企业软件公司公布了搭载NVIDIA AI Enterprise软件的
    的头像 发表于 09-09 09:37 312次阅读

    NVIDIA 携手全球合作伙伴推出 NIM Agent Blueprints,助力企业打造属于自己的 AI

    可定制工作流目录加快核心生成 AI 用例的部署速度。首批用例包括客户服务、药物研发和 PDF 数据提取,未来将加入更多用例 企业可以使用 NIM Agent Blueprints 以
    发表于 08-28 10:10 160次阅读
    <b class='flag-5'>NVIDIA</b> 携手全球<b class='flag-5'>合作</b>伙伴推出 NIM Agent Blueprints,助力<b class='flag-5'>企业</b><b class='flag-5'>打造</b>属于自己的 <b class='flag-5'>AI</b>

    NVIDIA携手Meta推出AI服务,为企业提供生成AI服务

    NVIDIA近日宣布了一项重大举措,正式推出NVIDIA AI Foundry服务与NVIDIA NIM(NVIDIA Inference
    的头像 发表于 07-25 16:57 426次阅读

    NVIDIA AI Foundry 为全球企业打造自定义 Llama 3.1 生成 AI 模型

    Foundry 提供从数据策管、合成数据生成、微调、检索、防护到评估的全方位生成 AI 模型服务,以便部署自定义 Llama 3.1 NVIDI
    发表于 07-24 09:39 657次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Foundry 为全球<b class='flag-5'>企业</b><b class='flag-5'>打造</b>自定义 Llama 3.1 <b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b> 模型

    NVIDIA推出NVIDIA AI Computing by HPE加速生成 AI 变革

    伙伴关系进一步深化。助力生成 AI企业级应用与发展加速驶入快车道。 HPE Private Cloud AI 是该解决方案的关键,开创
    的头像 发表于 06-20 17:36 616次阅读

    赛轮思与NVIDIA合作,利用生成AI打造下一代车内体验

    AI 驱动的移动出行创新企业NVIDIA 合作打造下一代车内体验。
    的头像 发表于 05-23 10:12 1150次阅读

    Snowflake推出企业级AI模型

    Snowflake公司近日重磅推出了一款名为Snowflake Arctic的企业级大型语言模型(LLM)。这款AI模型针对复杂的企业工作负载进行了深度优化,特别是在SQL代码生成和指
    的头像 发表于 05-06 14:38 342次阅读

    SAP与NVIDIA携手加速生成AI企业应用中的普及

    SAP SE 和 NVIDIA 宣布深化合作,致力于加速企业客户在 SAP 云解决方案和应用组合中利用数据和生成
    的头像 发表于 03-22 10:02 515次阅读

    思科技携手英伟达:基于加速计算、生成AI和Omniverse释放下一代EDA潜能

    。这一合作将在集成电路设计、验证、仿真及制造各环节实现最高15倍的效能提升; 将 Synopsys.ai 的芯片设计生成AI技术与英伟达
    发表于 03-20 13:43 199次阅读
    新<b class='flag-5'>思科</b>技携手英伟达:基于加速计算、<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>和Omniverse释放下一代EDA潜能

    NVIDIA推出生成AI微服务,供开发者在CUDA GPU系统中创建部署生成AI助手

    NVIDIA 于今日推出数十项企业级生成 AI 微服务,企业可以利用这些微服务在自己的平台上创
    的头像 发表于 03-20 09:56 391次阅读

    NVIDIA 发布全新交换机,全面优化万亿参数 GPU 计算和 AI 基础设施

    NVIDIA Quantum-X800 InfiniBand 网络,打造性能最强大的 AI 专用基础设施 NVIDIA Spectrum-X
    发表于 03-19 10:05 285次阅读
    <b class='flag-5'>NVIDIA</b> 发布全新交换机,全面优化万亿参数<b class='flag-5'>级</b> GPU 计算和 <b class='flag-5'>AI</b> <b class='flag-5'>基础设施</b>

    NVIDIA 通过企业级生成 AI 微服务为聊天机器人、AI 助手和摘要工具带来商业智能

    AI 模型的框架和工具系列)的一项全新服务,通过企业级检索增强生成(RAG)功能,帮助组织加强其生成
    的头像 发表于 11-29 21:05 543次阅读

    NVIDIA 通过企业级生成 AI 微服务 为聊天机器人、AI 助手和摘要工具带来商业智能

    。   NVIDIA NeMo™ Retriever 是 NVIDIA NeMo(一个用于构建、自定义和部署生成 AI 模型的框架和工具系
    发表于 11-29 14:37 238次阅读
    <b class='flag-5'>NVIDIA</b> 通过<b class='flag-5'>企业级</b><b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b> 微服务 为聊天机器人、<b class='flag-5'>AI</b> 助手和摘要工具带来商业智能

    利用 NVIDIA AI Foundation Models 构建自定义企业级生成 AI

    生成 AI 领域,构建企业级大语言模型(LLM)需要具备采集高质量数据、设置加速基础设施和优化模型方面的专业知识。 开发者可以从预训练模
    的头像 发表于 11-17 21:30 640次阅读
    利用 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Foundation Models 构建自定义<b class='flag-5'>企业级</b><b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b>

    NVIDIA 加快企业自定义生成 AI 模型开发

    需求,比如兼容性、安全性和用来训练模型的数据。 NVIDIA AI Foundation Models  集企业级预训练模型之大成,
    的头像 发表于 11-16 21:15 519次阅读
    <b class='flag-5'>NVIDIA</b> 加快<b class='flag-5'>企业</b>自定义<b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b> 模型开发