0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA GPU助力译图智讯部署高效AI计算处理平台

NVIDIA英伟达企业解决方案 来源:NVIDIA英伟达企业解决方案 作者:NVIDIA英伟达企业解 2022-07-20 09:55 次阅读

北京译图智讯是一家 OCR 识别软件厂商,致力于为客户构建一站式 OCR 识别解决方案,专注于计算机视觉、图像识别、深度学习AI 技术的研发,助力企业实现数字化转型,降本增效。

图像处理和 OCR 识别是运算密集型技术,对算力要求较高,借助于NVIDIA A100 Tensor Core GPU及A10 Tensor Core GPU,译图智讯构建了更加高效的硬件训练平台,缩短了 OCR 模型训练、预测的处理周期,进一步提升了 OCR 识别速度与精度。

OCR 过程包括图像分类、目标检测、图像分割、OCR 识别、NLP 提取等模型训练任务,其中每一个模型都需要对大量样本进行标注训练,所需数据量庞大且复杂,整个建模过程对服务器算力、GPU 显存都提出了更高的要求。

译图智讯以往训练服务器采用的是 CPU + NVIDIA T4 GPU 多卡的硬件方案,其运行速度远远跟不上复杂模型建设的需求,实际运算性能大打折扣。NVIDIA A100 及 A10 GPU 配备了具有更高精度的第三代 Tensor Core 核心,可实现成千上万个 GPU 集群的高效扩展。A10 相较于 T4,可提供高达 2.5 倍的虚拟工作站性能及推理性能,结合 A100 跨工作负载的高强计算力,相比上一个平台,译图智讯实现了最高 20 倍的 AI 性能,以及 3 倍的 AI 训练速度,可快速完成数据建模。

借助 NVIDIA A100,满足了需要更大显存的训练任务。以 OCR 文本识别训练为例,需要对数千万的图像数据进行训练,采用基于 T4 构建的服务器时,训练周期需要 7 天,依托 A100,训练周期可缩减至 3-4 天,极大地提升了模型和产品的迭代周期;同样在模型预测阶段,以调用频次最高的身份证识别为例,在以 T4 构建的服务器中,OCR 识别一次需要 300ms,1 秒钟可识别 3 张身份证,依托 NVIDIA A100 服务器,每一次可以缩短至 100-200ms 左右,1 秒钟可识别 5-6 张身份证,单位时间处理时间显著降低,并发能力增加,给产品研发速度带来质的提速。

通过 NVIDIA A100 及 A10 强大的算力服务器支持,能够并行运行多个计算机视觉算法架构,在节省运行显存开销的同时,带来了更快的神经网络训练及推理效率,显著加速了 OCR 识别中对图像数据处理的时间。

译图智讯产品总监刘伟表示“模型训练在 NVIDIA GPU 上的运行速度更快,极大优化了图像处理流程,使研发人员能够更高效地投身到图像标注、训练、分析、文字识别的过程中。随着 OCR 识别技术的应用越来越广泛,译图智讯将更高效地利用 AI,借助NVIDIA GPU AI计算平台,提升 OCR 识别的速度与精度,使 OCR 在各个场景都达到毫秒级的运行速度,专注更智能、高效、安全稳定的 OCR 整体识别解决方案,助力 OCR 识别技术创新,加速社会信息化进程。”

本案例中,NVIDIA 优选级合作伙伴北京安联通助力译图智讯部署了高效 AI 计算处理平台,同时帮助译图网络数据中心的设备进行升级改造,部分网络设备换成全新的 NVIDIA 网络产品,使网络传输速度比原来的提高数 10 倍,给客户体验感更好,识别速度更快。

审核编辑:汤梓红
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    4848

    浏览量

    102705
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4673

    浏览量

    128558
  • OCR
    OCR
    +关注

    关注

    0

    文章

    142

    浏览量

    16307

原文标题:NVIDIA GPU 显著提速 OCR 识别模型训练

文章出处:【微信号:NVIDIA-Enterprise,微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    NVIDIA助力xAI打造全球最大AI超级计算

    NVIDIA 宣布,xAI 位于田纳西州孟菲斯市的Colossus 超级计算机集群达到了 10 万颗 NVIDIA Hopper GPU 的巨大规模。该集群使用了
    的头像 发表于 10-30 11:38 234次阅读

    NVIDIA 以太网加速 xAI 构建的全球最大 AI 超级计算

    市的 Colossus 超级计算机集群达到了 10 万颗 NVIDIA® Hopper  GPU 的巨大规模。该集群使用了 NVIDIA Spectrum-X™ 以太网网络
    发表于 10-30 09:33 97次阅读
    <b class='flag-5'>NVIDIA</b> 以太网加速 xAI 构建的全球最大 <b class='flag-5'>AI</b> 超级<b class='flag-5'>计算</b>机

    NVIDIA助力丹麦发布首台AI超级计算

    这台丹麦最大的超级计算机由该国政府与丹麦 AI 创新中心共同建设,是一台 NVIDIA DGX SuperPOD 超级计算机。
    的头像 发表于 10-27 09:42 343次阅读

    GPU加速计算平台是什么

    GPU加速计算平台,简而言之,是利用图形处理器(GPU)的强大并行计算能力来加速科学
    的头像 发表于 10-25 09:23 188次阅读

    NVIDIA NIM助力企业高效部署生成式AI模型

    Canonical、Nutanix 和 Red Hat 等厂商的开源 Kubernetes 平台集成了 NVIDIA NIM,将允许用户通过 API 调用来大规模地部署大语言模型。
    的头像 发表于 10-10 09:49 339次阅读

    NVIDIA NIM:打造AI领域的AI-in-a-Box,提高AI开发与部署高效

    据7月30日官方发布的资讯显示,在全球备受瞩目的计算机图形学盛会——SIGGRAPH 2024上,NVIDIA公司对外展示了其在诸如渲染、仿真及生成式AI等前沿领域所取得的卓越成果,而其中最为引人注目的便是
    的头像 发表于 07-30 16:27 606次阅读

    进一步解读英伟达 Blackwell 架构、NVlink及GB200 超级芯片

    ,第五代NVLink、InfiniBand网络和NVIDIA Magnum IO™软件的支持,确保企业和广泛GPU计算集群的高效可扩展性。 HGX B200 深度学习推理能力 英伟达
    发表于 05-13 17:16

    FPGA在深度学习应用中或将取代GPU

    ,这使得它比一般处理器更高效。但是,很难对 FPGA 进行编程,Larzul 希望通过自己公司开发的新平台解决这个问题。 专业的人工智能硬件已经成为了一个独立的产业,但对于什么是深度学习算法的最佳
    发表于 03-21 15:19

    NVIDIA 推出 Blackwell 架构 DGX SuperPOD,适用于万亿参数级的生成式 AI 超级计算

    Blackwell GPU 连成一个整体,由NVIDIA 系统专家加速即时 AI 基础设施的部署       美国加利福尼亚州圣何塞 —— GTC —— 太平洋时间 2024 年 3
    发表于 03-19 10:56 355次阅读
    <b class='flag-5'>NVIDIA</b> 推出 Blackwell 架构 DGX SuperPOD,适用于万亿参数级的生成式 <b class='flag-5'>AI</b> 超级<b class='flag-5'>计算</b>

    NVIDIA 发布全新交换机,全面优化万亿参数级 GPU 计算AI 基础设施

    NVIDIA 软件实现了跨  Blackwell GPU、新交换机和 BlueField-3 SuperNIC 的分布式计算,大幅提升了 AI、数据
    发表于 03-19 10:05 306次阅读
    <b class='flag-5'>NVIDIA</b> 发布全新交换机,全面优化万亿参数级 <b class='flag-5'>GPU</b> <b class='flag-5'>计算</b>和 <b class='flag-5'>AI</b> 基础设施

    NVIDIA AI Enterprise助力九州未来构建MaaS平台

    本案例中,九州未来的团队基于NVIDIA AI Enterprise的全栈软件套件,构建其 MaaS 大模型一体化开发及部署平台,该平台同时
    的头像 发表于 01-10 17:24 1116次阅读

    亚马逊云科技与 NVIDIA 宣布开展战略合作,为生成式 AI 提供全新超级计算基础架构、软件和服务

    计算机,用于 NVIDIA AI 研发和自定义模型开发。 搭载 NVIDIA GH200、H200、L40S 和 L4 GPU的全新亚马逊
    的头像 发表于 11-29 21:00 594次阅读
    亚马逊云科技与 <b class='flag-5'>NVIDIA</b> 宣布开展战略合作,为生成式 <b class='flag-5'>AI</b> 提供全新超级<b class='flag-5'>计算</b>基础架构、软件和服务

    SC23 | NVIDIA 为全球领先的 AI 计算平台 Hopper 再添新动力

    世界顶级服务器制造商和云服务提供商即将推出 HGX H200 系统与云实例。 11月13日,NVIDIA 宣布推出 NVIDIA HGX H200 ,为 Hopper 这一全球领先的 AI
    的头像 发表于 11-14 20:05 421次阅读
    SC23 | <b class='flag-5'>NVIDIA</b> 为全球领先的 <b class='flag-5'>AI</b> <b class='flag-5'>计算</b><b class='flag-5'>平台</b> Hopper 再添新动力

    NVIDIA 为全球领先的 AI 计算平台 Hopper 再添新动力

    Tensor Core GPU 和领先的显存配置,可处理生成式 AI 与高性能计算工作负载的海量数据。   NVIDIA H200 是首款
    发表于 11-14 14:30 225次阅读
    <b class='flag-5'>NVIDIA</b> 为全球领先的 <b class='flag-5'>AI</b> <b class='flag-5'>计算</b><b class='flag-5'>平台</b> Hopper 再添新动力

    NVIDIA GPU 助力筷子科技,升级更全面和 AI 原生化的内容商业全链路平台

    。案例介绍 通过 NVIDIA GPU ,筷子科技加强和提升了数据处理、模型训练等方面的能力与效率,最新升级的 Kuaizi 3.0 平台基于此,打造了更多
    的头像 发表于 11-13 20:45 502次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>GPU</b> <b class='flag-5'>助力</b>筷子科技,升级更全面和 <b class='flag-5'>AI</b> 原生化的内容商业全链路<b class='flag-5'>平台</b>