0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

怎样使用NVIDIA TAO为数万亿台设备开发和优化视觉AI模型呢?

NVIDIA英伟达企业解决方案 来源:NVIDIA英伟达企业解决方案 2023-12-14 15:55 次阅读

全球开发者正在使用 NVIDIA TAO 工具套件构建 AI 视觉感知和计算机视觉应用。如今,得益于显著的平台增强和生态对其的大力采用,这一过程比以往任何时候都更快、更容易。

NVIDIA TAO 工具套件支持 10 多种计算机视觉和视觉 AI 模式,包括图像分类、目标检测、三种类型分割、光学字符识别(OCR)、动作识别、关键点估计、人体姿态估计、嵌入模型、孪生网络等。

TAO 工具套件现在支持 NVIDIA NGC 上的 40 多个预训练模型,上手应用要比以往更快。同时,TAO 的使用方式随着各行业的模型调整工作流而持续扩展。如要了解更多信息,请参见利用 NVIDIA TAO 和视觉 AI 模型实现工业缺陷检测的变革自定义 AI 模型:使用 NVIDIA TAO 训练字符检测和识别模型。

大规模采用

TAO 的下载量已超过 10 万次,TAO 预训练模型的下载量已接近 100 万次。现在 TAO 已经开源,解决方案提供商能够以更加定制化的方式,将 TAO 集成到他们的服务中,并更加细致地探索平台的内部运作:https://github.com/nvidia?q=tao&type=all&language=&sort=

领先的 MLOps 和云服务正在使用 TAO 来改进其服务。与 MLOps 平台(如 Weights & Biases 和 ClearML 等)的集成有助于简化机器学习(ML)工作流,为模型训练提供更好的实验跟踪。TAO 还能与各种云 ML 和 Kubernetes 服务协同工作,如 Azure ML、GCP Vertex AI、Azure AKS、AWS EKS 和 GCP GKE 等。

大型企业也正在将 TAO 整合到自己的行业 AI 开发工作流中,这些企业包括消费供应链领域的百事可乐、制造业领域的和硕、西门子公司,以及能源领域的埃克森美孚。世界各地的大型城市和机场也在使用 TAO。

专为 AI 工作流打造

大型和小型企业都在使用 TAO 建立自己的视觉 AI 工厂和开发工作流,越来越需要 TAO 现有的以下三种功能:

TAO 可以处理最新的 AI 模型和算法,包括基础模型调优、生成式 AI 和视觉转换器等。

TAO 可以无缝连接 NVIDIA Omniverse Replicator 和 Stable Diffusion 等仿真方法生成的合成数据集。 

TAO 通过 NVIDIA AI Enterprise 提供开发工作流中必不可少的企业级支持。

在数万亿台设备上部署先进的 AI

借助 TAO,NVIDIA 通过 ONNX 和 TFLite 模型导出,以及来自全球领先供应商和边缘 AI 软件平台的强大生态系统,提供了在远端数万亿台设备上部署最新 AI 模型的灵活性。

ARM 正在使用 TAO 来优化 Ethos NPU 设备上的 AI 运行时。意法半导体首次在 STM32 微控制器上使用 TAO 来运行复杂的视觉 AI。Edge Impulse 和 Nota 等合作伙伴正在将 TAO 集成到其边缘 AI 平台中,为客户带来边缘优化的解决方案。







审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    4981

    浏览量

    102997
  • 机器学习
    +关注

    关注

    66

    文章

    8408

    浏览量

    132575
  • OCR
    OCR
    +关注

    关注

    0

    文章

    144

    浏览量

    16350

原文标题:使用 NVIDIA TAO 为数万亿台设备开发和优化视觉 AI 模型

文章出处:【微信号:NVIDIA-Enterprise,微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    NVIDIA推出全新生成式AI模型Fugatto

    NVIDIA 开发了一个全新的生成式 AI 模型。利用输入的文本和音频,该模型可以创作出包含任意的音乐、人声和声音组合的作品。
    的头像 发表于 11-27 11:29 334次阅读

    使用NVIDIA TensorRT提升Llama 3.2性能

    Llama 3.2 模型集扩展了 Meta Llama 开源模型集的模型阵容,包含视觉语言模型(VLM)、小语言
    的头像 发表于 11-20 09:59 209次阅读

    使用全新NVIDIA AI Blueprint开发视觉AI智能体

    提高生产力、优化流程和创造更加安全的空间,埃森哲、戴尔科技和联想等公司正在使用全新 NVIDIA AI Blueprint 开发
    的头像 发表于 11-06 13:58 382次阅读

    借助NVIDIA Metropolis微服务构建视觉AI应用

    伴随着视觉 AI 复杂性的增加,精简的部署解决方案已成为优化空间和流程的关键。NVIDIA 能够加快企业的开发速度,借助
    的头像 发表于 09-09 09:46 327次阅读
    借助<b class='flag-5'>NVIDIA</b> Metropolis微服务构建<b class='flag-5'>视觉</b><b class='flag-5'>AI</b>应用

    NVIDIA Nemotron-4 340B模型帮助开发者生成合成训练数据

    Nemotron-4 340B 是针对 NVIDIA NeMo 和 NVIDIA TensorRT-LLM 优化模型系列,该系列包含最先进的指导和奖励
    的头像 发表于 09-06 14:59 303次阅读
    <b class='flag-5'>NVIDIA</b> Nemotron-4 340B<b class='flag-5'>模型</b>帮助<b class='flag-5'>开发</b>者生成合成训练数据

    NVIDIA RTX AI套件简化AI驱动的应用开发

    NVIDIA 于近日发布 NVIDIA RTX AI套件,这一工具和 SDK 集合能够帮助 Windows 应用开发者定制、优化和部署适用于
    的头像 发表于 09-06 14:45 438次阅读

    NVIDIA AI Foundry 全球企业打造自定义 Llama 3.1 生成式 AI 模型

    借助 NVIDIA AI Foundry,企业和各国现在能够使用自有数据与 Llama 3.1 405B 和 NVIDIA Nemotron 模型配对,来构建“超级
    发表于 07-24 09:39 706次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Foundry <b class='flag-5'>为</b>全球企业打造自定义 Llama 3.1 生成式 <b class='flag-5'>AI</b> <b class='flag-5'>模型</b>

    揭秘NVIDIA AI Workbench 如何助力应用开发

    简化和优化生成式 AI 开发的工具备受追捧,需求与日俱增。借助基于检索增强生成(RAG)(该技术通过从指定外部来源获取事实资料,来提高生成式 AI
    发表于 07-10 18:51 639次阅读
    揭秘<b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Workbench 如何助力应用<b class='flag-5'>开发</b>

    聆思CSK6视觉语音大模型AI开发板入门资源合集(硬件资料、大模型语音/多模态交互/英语评测SDK合集)

    本帖最后由 jf_40317719 于 2024-6-18 17:39 编辑 视觉语音大模型 AI 开发套件( CSK6-MIX )是围绕 CSK6011A 芯片设计的具备丰富语
    发表于 06-18 17:33

    MediaTek与NVIDIA TAO加速物联网边缘AI应用发展

    在即将到来的COMPUTEX 2024科技盛会上,全球知名的芯片制造商MediaTek宣布了一项重要合作——将NVIDIATAO(TensorRT Accelerated Optimizer)与其NeuroPilot SDK(软件开发
    的头像 发表于 06-12 14:49 466次阅读

    英伟达推出AI模型推理服务NVIDIA NIM

    英伟达近日宣布推出一项革命性的AI模型推理服务——NVIDIA NIM。这项服务将极大地简化AI模型部署过程,
    的头像 发表于 06-04 09:15 674次阅读

    进一步解读英伟达 Blackwell 架构、NVlink及GB200 超级芯片

    、库及优化AI模型和应用程序,用户提供全面的AI计算解决方案。 DGX SuperPOD - 专为人工智能设计的数据中心
    发表于 05-13 17:16

    Edge Impulse发布新工具,助 NVIDIA 模型大规模部署

    借助 Edge Impulse 和 NVIDIA TAO 工具包的协同效应,工程师得以快速构建并部署至边缘优化硬件(如上述型号)的计算机视觉模型
    的头像 发表于 03-25 16:00 745次阅读

    NVIDIA 推出 Blackwell 架构 DGX SuperPOD,适用于万亿参数级的生成式 AI 超级计算

    ——  NVIDIA 于今日发布新一代 AI 超级计算机 —— 搭载 NVIDIA GB200 Grace Blackwell 超级芯片的 NVIDIA DGX SuperPOD™。
    发表于 03-19 10:56 422次阅读
    <b class='flag-5'>NVIDIA</b> 推出 Blackwell 架构 DGX SuperPOD,适用于<b class='flag-5'>万亿</b>参数级的生成式 <b class='flag-5'>AI</b> 超级计算

    NVIDIA TAO 5.2版本发布

    NVIDIA TAO 提供了一个低代码开源 AI 框架,无论你是初学者还是专业的数据科学家,都可以使用该框架加速视觉 AI
    的头像 发表于 01-03 10:11 621次阅读