0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA GPU助力译图智讯部署高效AI计算处理平台

NVIDIA英伟达企业解决方案 来源:NVIDIA英伟达企业解决方案 作者:NVIDIA英伟达企业解 2022-07-20 09:55 次阅读

北京译图智讯是一家 OCR 识别软件厂商,致力于为客户构建一站式 OCR 识别解决方案,专注于计算机视觉、图像识别、深度学习AI 技术的研发,助力企业实现数字化转型,降本增效。

图像处理和 OCR 识别是运算密集型技术,对算力要求较高,借助于NVIDIA A100 Tensor Core GPU及A10 Tensor Core GPU,译图智讯构建了更加高效的硬件训练平台,缩短了 OCR 模型训练、预测的处理周期,进一步提升了 OCR 识别速度与精度。

OCR 过程包括图像分类、目标检测、图像分割、OCR 识别、NLP 提取等模型训练任务,其中每一个模型都需要对大量样本进行标注训练,所需数据量庞大且复杂,整个建模过程对服务器算力、GPU 显存都提出了更高的要求。

译图智讯以往训练服务器采用的是 CPU + NVIDIA T4 GPU 多卡的硬件方案,其运行速度远远跟不上复杂模型建设的需求,实际运算性能大打折扣。NVIDIA A100 及 A10 GPU 配备了具有更高精度的第三代 Tensor Core 核心,可实现成千上万个 GPU 集群的高效扩展。A10 相较于 T4,可提供高达 2.5 倍的虚拟工作站性能及推理性能,结合 A100 跨工作负载的高强计算力,相比上一个平台,译图智讯实现了最高 20 倍的 AI 性能,以及 3 倍的 AI 训练速度,可快速完成数据建模。

借助 NVIDIA A100,满足了需要更大显存的训练任务。以 OCR 文本识别训练为例,需要对数千万的图像数据进行训练,采用基于 T4 构建的服务器时,训练周期需要 7 天,依托 A100,训练周期可缩减至 3-4 天,极大地提升了模型和产品的迭代周期;同样在模型预测阶段,以调用频次最高的身份证识别为例,在以 T4 构建的服务器中,OCR 识别一次需要 300ms,1 秒钟可识别 3 张身份证,依托 NVIDIA A100 服务器,每一次可以缩短至 100-200ms 左右,1 秒钟可识别 5-6 张身份证,单位时间处理时间显著降低,并发能力增加,给产品研发速度带来质的提速。

通过 NVIDIA A100 及 A10 强大的算力服务器支持,能够并行运行多个计算机视觉算法架构,在节省运行显存开销的同时,带来了更快的神经网络训练及推理效率,显著加速了 OCR 识别中对图像数据处理的时间。

译图智讯产品总监刘伟表示“模型训练在 NVIDIA GPU 上的运行速度更快,极大优化了图像处理流程,使研发人员能够更高效地投身到图像标注、训练、分析、文字识别的过程中。随着 OCR 识别技术的应用越来越广泛,译图智讯将更高效地利用 AI,借助NVIDIA GPU AI计算平台,提升 OCR 识别的速度与精度,使 OCR 在各个场景都达到毫秒级的运行速度,专注更智能、高效、安全稳定的 OCR 整体识别解决方案,助力 OCR 识别技术创新,加速社会信息化进程。”

本案例中,NVIDIA 优选级合作伙伴北京安联通助力译图智讯部署了高效 AI 计算处理平台,同时帮助译图网络数据中心的设备进行升级改造,部分网络设备换成全新的 NVIDIA 网络产品,使网络传输速度比原来的提高数 10 倍,给客户体验感更好,识别速度更快。

审核编辑:汤梓红
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    4690

    浏览量

    102123
  • gpu
    gpu
    +关注

    关注

    27

    文章

    4513

    浏览量

    127595
  • OCR
    OCR
    +关注

    关注

    0

    文章

    140

    浏览量

    16193

原文标题:NVIDIA GPU 显著提速 OCR 识别模型训练

文章出处:【微信号:NVIDIA-Enterprise,微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    进一步解读英伟达 Blackwell 架构、NVlink及GB200 超级芯片

    ,第五代NVLink、InfiniBand网络和NVIDIA Magnum IO™软件的支持,确保企业和广泛GPU计算集群的高效可扩展性。 HGX B200 深度学习推理能力 英伟达
    发表于 05-13 17:16

    FPGA在深度学习应用中或将取代GPU

    ,这使得它比一般处理器更高效。但是,很难对 FPGA 进行编程,Larzul 希望通过自己公司开发的新平台解决这个问题。 专业的人工智能硬件已经成为了一个独立的产业,但对于什么是深度学习算法的最佳
    发表于 03-21 15:19

    NVIDIA 推出 Blackwell 架构 DGX SuperPOD,适用于万亿参数级的生成式 AI 超级计算

    Blackwell GPU 连成一个整体,由NVIDIA 系统专家加速即时 AI 基础设施的部署       美国加利福尼亚州圣何塞 —— GTC —— 太平洋时间 2024 年 3
    发表于 03-19 10:56 226次阅读
    <b class='flag-5'>NVIDIA</b> 推出 Blackwell 架构 DGX SuperPOD,适用于万亿参数级的生成式 <b class='flag-5'>AI</b> 超级<b class='flag-5'>计算</b>

    NVIDIA 发布全新交换机,全面优化万亿参数级 GPU 计算AI 基础设施

    NVIDIA 软件实现了跨  Blackwell GPU、新交换机和 BlueField-3 SuperNIC 的分布式计算,大幅提升了 AI、数据
    发表于 03-19 10:05 183次阅读
    <b class='flag-5'>NVIDIA</b> 发布全新交换机,全面优化万亿参数级 <b class='flag-5'>GPU</b> <b class='flag-5'>计算</b>和 <b class='flag-5'>AI</b> 基础设施

    NVIDIA AI Enterprise助力九州未来构建MaaS平台

    本案例中,九州未来的团队基于NVIDIA AI Enterprise的全栈软件套件,构建其 MaaS 大模型一体化开发及部署平台,该平台同时
    的头像 发表于 01-10 17:24 685次阅读

    NVIDIA 人工智能开讲 | 什么是 AI For Science?详解 AI 助力科学研究领域的新突破

    ”两大音频 APP上搜索“ NVIDIA 人工智能开讲 ”专辑,众多技术大咖带你深度剖析核心技术,把脉未来科技发展方向! AI For Science (亦称 “AI In Science” ),是人工智能领域的一大热门话题,
    的头像 发表于 12-25 18:30 668次阅读
    <b class='flag-5'>NVIDIA</b> 人工智能开讲 | 什么是 <b class='flag-5'>AI</b> For Science?详解 <b class='flag-5'>AI</b> <b class='flag-5'>助力</b>科学研究领域的新突破

    亚马逊云科技与 NVIDIA 宣布开展战略合作,为生成式 AI 提供全新超级计算基础架构、软件和服务

    计算机,用于 NVIDIA AI 研发和自定义模型开发。 搭载 NVIDIA GH200、H200、L40S 和 L4 GPU的全新亚马逊
    的头像 发表于 11-29 21:00 439次阅读
    亚马逊云科技与 <b class='flag-5'>NVIDIA</b> 宣布开展战略合作,为生成式 <b class='flag-5'>AI</b> 提供全新超级<b class='flag-5'>计算</b>基础架构、软件和服务

    SC23 | NVIDIA 为全球领先的 AI 计算平台 Hopper 再添新动力

    世界顶级服务器制造商和云服务提供商即将推出 HGX H200 系统与云实例。 11月13日,NVIDIA 宣布推出 NVIDIA HGX H200 ,为 Hopper 这一全球领先的 AI
    的头像 发表于 11-14 20:05 334次阅读
    SC23 | <b class='flag-5'>NVIDIA</b> 为全球领先的 <b class='flag-5'>AI</b> <b class='flag-5'>计算</b><b class='flag-5'>平台</b> Hopper 再添新动力

    NVIDIA 为全球领先的 AI 计算平台 Hopper 再添新动力

    Tensor Core GPU 和领先的显存配置,可处理生成式 AI 与高性能计算工作负载的海量数据。   NVIDIA H200 是首款
    发表于 11-14 14:30 129次阅读
    <b class='flag-5'>NVIDIA</b> 为全球领先的 <b class='flag-5'>AI</b> <b class='flag-5'>计算</b><b class='flag-5'>平台</b> Hopper 再添新动力

    NVIDIA GPU 助力筷子科技,升级更全面和 AI 原生化的内容商业全链路平台

    。案例介绍 通过 NVIDIA GPU ,筷子科技加强和提升了数据处理、模型训练等方面的能力与效率,最新升级的 Kuaizi 3.0 平台基于此,打造了更多
    的头像 发表于 11-13 20:45 390次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>GPU</b> <b class='flag-5'>助力</b>筷子科技,升级更全面和 <b class='flag-5'>AI</b> 原生化的内容商业全链路<b class='flag-5'>平台</b>

    NVIDIA AI 现已在 Oracle Cloud Marketplace 推出

    OCI 在业内率先扩展了企业对 NVIDIA DGX 云 AI 超级计算平台NVIDIA AI
    的头像 发表于 10-24 10:30 294次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> 现已在 Oracle Cloud Marketplace 推出

    Oracle 云基础设施提供新的 NVIDIA GPU 加速计算实例

    生成式 AI 和大语言模型(LLM)不断推动突破性创新,训练和推理对算力的需求也随之急剧上升。 这些现代生成式 AI 应用需要全栈加速计算,首先要有能够快速、准确处理大量工作负载的先进
    的头像 发表于 09-25 20:40 357次阅读
    Oracle 云基础设施提供新的 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>GPU</b> 加速<b class='flag-5'>计算</b>实例

    Ai 部署的临界考虑电子指南

    虽然GPU解决方案对训练,AI部署需要更多。 预计到2020年代中期,人工智能行业将增长到200亿美元,其中大部分增长是人工智能推理。英特尔Xeon可扩展处理器约占运行
    发表于 08-04 07:25

    CV-CUDA 助力腾讯云音视频 PaaS 平台实现视频增强 AI 全流程 GPU 加速

    案例介绍 腾讯云音视频 PaaS 平台NVIDIA 团队合作,利用  CV-CUDA  加速视频增强 AI 工作管线中的前后处理模块,结合  N
    的头像 发表于 07-28 17:05 533次阅读
    CV-CUDA <b class='flag-5'>助力</b>腾讯云音视频 PaaS <b class='flag-5'>平台</b>实现视频增强 <b class='flag-5'>AI</b> 全流程 <b class='flag-5'>GPU</b> 加速

    NVIDIA 软硬件支持 AI 全流程,助力便利蜂打造新一代 AI 陈列质量控制系统

    便利蜂通过使用 NVIDIA T4 GPUNVIDIA Jetson 计算平台,结合云端和边缘算力,打造
    的头像 发表于 07-10 20:25 369次阅读