0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA 加快企业自定义生成式 AI 模型开发

NVIDIA英伟达企业解决方案 来源:未知 2023-11-16 21:15 次阅读

开发者可以直接在浏览器中试用全新的 NVIDIA AI Foundation Models,使用 NVIDIA AI Foundation Endpoints 在应用程序中进行测试,然后使用专有的业务数据进行自定义。

wKgaomVWFwaAYyO_AADOYv2qyow798.jpg

如今,免费、开源的大语言模型对企业来说就像是一顿“自助餐”。但对于构建自定义生成式 AI 应用的开发者来说,这顿“大餐”可能会让他们应接不暇,因为他们需要满足各种不同的项目和业务需求,比如兼容性、安全性和用来训练模型的数据。 NVIDIA AI Foundation Models集企业级预训练模型之大成,为开发人员提供了针对企业应用定制生成式 AI 的良好开端。

NVIDIA 优化的基础模型加速创新

NVIDIA AI Foundation Models 可通过简单的用户界面或 API 直接在浏览器体验。此外,这些模型还可通过NVIDIA AI Foundation Endpoints进行访问,以便在企业应用中测试模型性能。

Llama 2、Stable Diffusion XL 和 Mistral 等现有的领先社区模型在格式化后,可帮助开发者利用其专有数据精简自定义过程。此外,这些模型还通过NVIDIA TensorRT-LLM进行了优化,以提供最高的吞吐量和最低的时延,同时支持在任一NVIDIA GPU加速堆栈上的大规模运行。例如,经过 TensorRT-LLM 优化的 Llama 2 模型在 NVIDIA H100 上的运行速度提高了近 2 倍。 新的NVIDIA Nemotron-3 8B基础模型系列可支持创建当今领先的企业聊天与问答应用,并适用于医疗、电信和金融服务等众多行业。 这一系列模型是客户构建安全且生产就绪的生成式 AI 应用的起点。这些模型在可靠的数据集上训练而成,其性能可媲美规模更大的模型,因此成为企业部署的理想之选。 多语言功能是 Nemotron-3 8B 系列模型的关键优势之一。这些开箱即用的模型精通 50 多种语言,包括英语、德语、俄语、西班牙语、法语、日语、中文、韩语、意大利语和荷兰语。

加快从自定义到部署的全过程

在跨业务功能中使用生成式 AI 的企业需要一个 AI foundry,以便为其独特的应用自定义模型。NVIDIA 的 AI foundry 具备三个要素:NVIDIA AI Foundation Models、NVIDIA NeMo框架和工具,以及NVIDIA DGXAI 超级计算服务。它们共同提供了端到端的企业级服务,以创建自定义生成式 AI 模型。

重要的是,企业拥有其定制化模型,也就可以通过NVIDIA AI Enterprise软件将其部署到几乎任何地点,并获得企业级的安全性、稳定性和支持。 NVIDIA AI Foundation Models 现已在NVIDIA NGC 目录https://catalog.ngc.nvidia.com/ai-foundation-models.ngc.nvidia.com/ai-foundation-models和 Hugging Face 上免费提供,并且也托管于 Microsoft Azure AI 模型目录中。

GTC 2024 将于 2024 年 3 月 18 至 21 日在美国加州圣何塞会议中心举行,线上大会也将同期开放。扫描下方海报二维码,立即注册 GTC 大会


原文标题:NVIDIA 加快企业自定义生成式 AI 模型开发

文章出处:【微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英伟达
    +关注

    关注

    22

    文章

    3773

    浏览量

    91025

原文标题:NVIDIA 加快企业自定义生成式 AI 模型开发

文章出处:【微信号:NVIDIA-Enterprise,微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    NVIDIA 推出高性价比的生成 AI 超级计算机

    Jetson Orin Nano Super 可将生成 AI 性能提升至1.7 倍,支持科技爱好者、开发者和学生使用的主流模型。    
    发表于 12-18 17:01 337次阅读
    <b class='flag-5'>NVIDIA</b> 推出高性价比的<b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b> 超级计算机

    NVIDIA推出全新生成AI模型Fugatto

    NVIDIA 开发了一个全新的生成 AI 模型。利用输入的文本和音频,该
    的头像 发表于 11-27 11:29 351次阅读

    NVIDIA助力Amdocs打造生成AI智能体

    正在使用NVIDIA DGX Cloud 与 NVIDIA AI Enterprise软件开发和交付基于商用大语言模型(LLM)和领域适配
    的头像 发表于 11-19 14:48 333次阅读

    在设备上利用AI Edge Torch生成API部署自定义大语言模型

    我们很高兴地发布 AI Edge Torch 生成 API,它能将开发者用 PyTorch 编写的高性能大语言模型 (LLM) 部署至 T
    的头像 发表于 11-14 10:23 428次阅读
    在设备上利用<b class='flag-5'>AI</b> Edge Torch<b class='flag-5'>生成</b><b class='flag-5'>式</b>API部署<b class='flag-5'>自定义</b>大语言<b class='flag-5'>模型</b>

    NVIDIA AI助力SAP生成AI助手Joule加速发展

    在美国佛罗里达州奥兰多举行的 SAP Sapphire 大会上,NVIDIA 与这家企业软件公司公布了搭载NVIDIA AI Enterprise软件的
    的头像 发表于 09-09 09:37 429次阅读

    NVIDIA NeMo加速并简化自定义模型开发

    如果企业希望充分发挥出 AI 的力量,就需要根据其行业需求量身定制的自定义模型
    的头像 发表于 07-26 11:17 753次阅读
    <b class='flag-5'>NVIDIA</b> NeMo加速并简化<b class='flag-5'>自定义</b><b class='flag-5'>模型</b><b class='flag-5'>开发</b>

    NVIDIA携手Meta推出AI服务,为企业提供生成AI服务

    NVIDIA近日宣布了一项重大举措,正式推出NVIDIA AI Foundry服务与NVIDIA NIM(NVIDIA Inference
    的头像 发表于 07-25 16:57 543次阅读

    NVIDIA AI Foundry 为全球企业打造自定义 Llama 3.1 生成 AI 模型

    Foundry 提供从数据策管、合成数据生成、微调、检索、防护到评估的全方位生成 AI 模型服务,以便部署
    发表于 07-24 09:39 708次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Foundry 为全球<b class='flag-5'>企业</b>打造<b class='flag-5'>自定义</b> Llama 3.1 <b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b> <b class='flag-5'>模型</b>

    揭秘NVIDIA AI Workbench 如何助力应用开发

    简化和优化生成 AI 开发的工具备受追捧,需求与日俱增。借助基于检索增强生成(RAG)(该技术通过从指定外部来源获取事实资料,来提高
    发表于 07-10 18:51 640次阅读
    揭秘<b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Workbench 如何助力应用<b class='flag-5'>开发</b>

    HarmonyOS开发案例:【 自定义弹窗】

    基于ArkTS的声明开发范式实现了三种不同的弹窗,第一种直接使用公共组件,后两种使用CustomDialogController实现自定义弹窗
    的头像 发表于 05-16 18:18 1360次阅读
    HarmonyOS<b class='flag-5'>开发</b>案例:【 <b class='flag-5'>自定义</b>弹窗】

    AWTK 开源串口屏开发(18) - 用 C 语言自定义命令

    编写代码即可实现常见的应用。但是,有时候我们需要自定义一些命令,以实现一些特殊的功能。本文档介绍如何使用C语言自定义命令。1.实现hmi_model_cmd_t接口
    的头像 发表于 05-11 08:24 439次阅读
    AWTK 开源串口屏<b class='flag-5'>开发</b>(18) - 用 C 语言<b class='flag-5'>自定义</b>命令

    HarmonyOS开发实例:【自定义Emitter】

    使用[Emitter]实现事件的订阅和发布,使用[自定义弹窗]设置广告信息。
    的头像 发表于 04-14 11:37 1000次阅读
    HarmonyOS<b class='flag-5'>开发</b>实例:【<b class='flag-5'>自定义</b>Emitter】

    鸿蒙ArkUI实例:【自定义组件】

    组件是 OpenHarmony 页面最小显示单元,一个页面可由多个组件组合而成,也可只由一个组件组合而成,这些组件可以是ArkUI开发框架自带系统组件,比如 `Text` 、 `Button` 等,也可以是自定义组件,本节笔者简单介绍一下
    的头像 发表于 04-08 10:17 636次阅读

    SAP与NVIDIA携手加速生成AI企业应用中的普及

    SAP SE 和 NVIDIA 宣布深化合作,致力于加速企业客户在 SAP 云解决方案和应用组合中利用数据和生成 AI 的变革力量。
    的头像 发表于 03-22 10:02 604次阅读

    NVIDIA生成AI开启药物研发与设计的新纪元

    NVIDIA BioNeMo 现已提供十余个生成 AI 模型以及云服务,正在推动计算机辅助药物发现生态系统的发展。
    的头像 发表于 01-10 16:00 530次阅读
    <b class='flag-5'>NVIDIA</b><b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>开启药物研发与设计的新纪元