0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

美团借助NVIDIA A100 GPU降低成本

NVIDIA英伟达 来源:NVIDIA英伟达 作者:NVIDIA英伟达 2022-01-24 10:15 次阅读

基于深度学习的系统可以为数十亿在线消费者提高推荐内容的相关性。

在过去十年中,全球电子商务的价值已飙升到数万亿美元,为数十亿消费者提供服务。促进在线销售实现这种爆炸式增长的动力,是由推荐系统引擎驱动的个性化。

推荐系统能够使购物更加个性化。在电子商务网站上搜索产品时,他们会捕捉搜索,或者单纯显示建议。互联网上之所以能提供这种令人愉悦的体验,依托的是规模日益庞大的数据集和模型。

NVIDIA Merlin 是推荐系统的助推器。它能够提高训练和推理速度,使各种类型的企业均能够更好地利用数据来构建由 NVIDIA GPU 加速的推荐系统。

在线交易的风险比以往更高。根据 eMarketer 发布的数据,2021 年全球在线销售额预计达到近 5 万亿美元,比上一年增加近 17%。

在一些全球大型在线网站上,即使推荐内容的相关性仅提高 1%,其销量也会增加数十亿。

投资于推荐系统已成为当今互联网巨头的主要竞争优势之一。

根据 Mordor Intelligence 发布的数据,在 2026 年,推荐系统整体市场将从2020 年仅为 21.2 亿美元提升至 151.3 亿美元。而这家研究公司同时也表示,在推荐系统引擎的细分市场中,规模更庞大、发展更迅速的市场就在亚太地区。

但是,本行业所面临的挑战是,提高相关性需要更多的数据和更高的处理能力。这些数据包含数十亿产品和消费者档案上数以万亿计的用户及产品交互(点击、浏览)。

这种规模的数据可能需要数天时间来完成模型训练。然而,越快推出基于更多数据的新模型,其相关性也就会越高。

Merlin 的模型、方法和库集合包括用于构建基于深度学习的系统的工具,能够处理 TB 级的数据,以便提供更精准的预测并增加点击量。

SNAP 利用 Merlin 和 GPU 提升推理

根据 eMarketer 发布的数据,2021 年美国数字广告收入预计达到 1911 亿美元,比上一年增长 25.5%。

Snap 是社交媒体应用 Snapchat 的母公司,位于加利福尼亚州圣塔莫尼卡,日活跃用户量已超过 3 亿。该公司通过社交照片和视频信息服务来创造广告收入。

Snap 首席执行官 Evan Spiegel 在其第三季度利润表中表示:“我们将继续专注于为广告合作伙伴提供强劲的业绩结果,通过创新来扩展平台功能并更好地为社区服务。”

Snap 的技术障碍在于,力图继续开发其工作负载的高成本排名模型,并在降低成本的同时扩展到更复杂的模型。

该公司使用 NVIDIA GPU 和 Merlin 来提升其内容排名能力。

Snap 工程副总裁 Nima Khajehnouri 说:“Snap 使用 NVIDIA GPU 和 Merlin 软件将机器学习推理成本效益提高了 50%,且降低 2 倍的服务延迟,其能够为试验和部署更繁重、更准确的广告和内容排名模型,提供更大的计算空间。”

腾讯借助 Merlin HugeCTR 来推动模型训练

娱乐行业巨头腾讯是中国一家具有高额市值的大型公司,运营着广受欢迎的信息服务——微信,以及支付平台——微信支付。

工程师需要快速对广告推荐系统的模型进行快速迭代,这会增加对训练性能的需求。

腾讯专家工程师孔祥挺说:“广告业务是腾讯内部比较重要的业务之一,而推荐系统则用来提高整体的广告收入。”

问题在于,广告推荐的准确性只有通过训练更多的样本数据(包括更多的样本特征)来提高,但这会延长训练时间,从而影响模型更新频率。

他还说道:“作为一个推荐系统的训练框架,HugeCTR 已集成到广告推荐训练系统中,使得模型训练的更新频率更快,并通过训练更多的样本来提升线上广告效果。”

他补充道,模型的训练性能得到提升后,我们就可以训练更多的数据,提高模型的准确率,从而增加广告收入。

美团借助 NVIDIA A100 GPU 降低成本

美团的业务涵盖 200 个服务类别,在食品、娱乐和按需服务各领域高度交织着。而这家中国互联网巨头拥有超过 6.67 亿活跃用户和 830 万活跃商家。

美团高级技术专家黄军表示,如果他的团队要大幅提升性能,通常会更倾向于训练更多的样本和更复杂的模型。

黄军也表示,美团的问题在于,随着模型变得越来越复杂,对训练框架进行深入优化就会变得困难。

他说道:“我们正致力于将 NVIDIA HugeCTR 集成到基于 A100 GPU 的训练系统中。”成本也会大大降低。这还仅仅只是初步的优化结果,未来还有很大的优化空间。”

美团最近报告说,在 2021 年第二季度的过去 12 个月中,每位交易用户的平均交易量增加到 32.8 笔,而在 2020 年第二季度的过去 12 个月中为 25.7 笔。

原文标题:为数十亿消费者提供服务:NVIDIA Merlin 助力网络巨头获得点击量

文章出处:【微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。

审核编辑:汤梓红

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    4843

    浏览量

    102694
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4666

    浏览量

    128544
  • 互联网
    +关注

    关注

    54

    文章

    11067

    浏览量

    102561

原文标题:为数十亿消费者提供服务:NVIDIA Merlin 助力网络巨头获得点击量

文章出处:【微信号:NVIDIA_China,微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    中国AI企业创新降低成本打造竞争力模型

    在中国,面对美国实施的芯片限制以及相较于西方企业更为有限的预算,人工智能(AI)公司正积极寻求降低成本的方法,以开发出具有市场竞争力的模型。初创公司如01.ai(零一万物)和DeepSeek(深度求索)等,通过聚焦小数据集进行AI模型训练,并聘请价格适中但技术熟练的计算机工程师,成功
    的头像 发表于 10-22 14:56 308次阅读

    在饱和状态下运行UCC2888x离线降压以降低成本

    电子发烧友网站提供《在饱和状态下运行UCC2888x离线降压以降低成本.pdf》资料免费下载
    发表于 10-14 09:47 0次下载
    在饱和状态下运行UCC2888x离线降压以<b class='flag-5'>降低成本</b>

    降低成本城域网

    电子发烧友网站提供《降低成本城域网.pdf》资料免费下载
    发表于 10-12 11:46 0次下载
    <b class='flag-5'>降低成本</b>城域网

    CC2340系统降低成本的方案剖析

    电子发烧友网站提供《CC2340系统降低成本的方案剖析.pdf》资料免费下载
    发表于 08-27 09:43 0次下载
    CC2340系统<b class='flag-5'>降低成本</b>的方案剖析

    600ma线性锂电池充电方案 兼容CL4054/LP4054/BCC4054 降低成本

    600ma线性锂电池充电方案 兼容CL4054/LP4054/BCC4054 降低成本
    的头像 发表于 06-18 11:05 591次阅读
    600ma线性锂电池充电方案 兼容CL4054/LP4054/BCC4054 <b class='flag-5'>降低成本</b>

    电子制造商采用NVIDIA AI和 Omniverse助力工厂提高运营效率并降低成本

    。   NVIDIA 宣布,各大电子制造商正在使用 NVIDIA 的技术并借助新的参考工作流将其工厂改造成具有更高自主化水平的设施。该工作流结合了 NVIDIA Metropolis
    的头像 发表于 06-04 10:22 558次阅读

    使用OpenUSD和NVIDIA Omniverse开发虚拟工厂解决方案

    工业开发者正在借助 NVIDIA AI、NVIDIA Omniverse 和通用场景描述 (OpenUSD)生态系统的力量构建虚拟工厂解决方案,通过优化棕地和绿地开发流程加快产品上市时间、实现产能的最大化并
    的头像 发表于 05-28 18:12 1218次阅读
    使用OpenUSD和<b class='flag-5'>NVIDIA</b> Omniverse开发虚拟工厂解决方案

    工业触摸显示屏在提升生产效率、降低成本等方面具有显著优势

     工业触摸显示屏在提升生产效率、降低成本等方面发挥着显著的作用。具体来说,其主要优势体现在以下几个方面。
    的头像 发表于 04-23 10:16 421次阅读

    英伟达H200和A100的区别

    英伟达H200和A100两款芯片在性能、架构、内存以及应用场景等多个方面存在显著的区别。
    的头像 发表于 03-07 16:23 3205次阅读

    英伟达H200和A100的差异

    英伟达H200和A100在多个方面存在差异。
    的头像 发表于 03-07 16:18 2114次阅读

    ZR机械手:提高生产效率,降低成本的有效途径-速程精密

    ZR机械手:提高生产效率,降低成本的有效途径-速程精密 在制造业中,如何提高生产效率、降低成本一直是企业追求的目标。随着科技的不断进步,ZR机械手作为一种新型的自动化设备,逐渐成为实现这一
    的头像 发表于 02-28 15:14 617次阅读
    ZR机械手:提高生产效率,<b class='flag-5'>降低成本</b>的有效途径-速程精密

    Google Gemma优化后可在NVIDIA GPU上运行

    2024 年 2 月 21 日,NVIDIA 携手 Google 在所有 NVIDIA AI 平台上发布面向 Gemma 的优化功能,Gemma 是 Google 最先进的新型轻量级 2B 和 7B 开放语言模型,可在任何地方运行,从而
    的头像 发表于 02-25 11:01 422次阅读

    搬运机器人已经成为提高效率、降低成本的关键技术

    物流、制造业和仓储等领域,搬运机器人已经成为提高效率、降低成本的关键技术。近年来,随着技术的不断突破,搬运机器人正朝着更加智能、高效和可靠的方向发展。
    的头像 发表于 01-22 12:00 477次阅读
    搬运机器人已经成为提高效率、<b class='flag-5'>降低成本</b>的关键技术

    电路板pcb打样降低成本的方法

    电路板pcb打样降低成本的方法
    的头像 发表于 12-13 17:25 705次阅读

    对英伟达A100芯片算力服务收费价格上调100%,这家企业的硬气来自哪里?

    半导体芯情了解到,A100是英伟达最新推出的一款高性能计算芯片,采用了全新的Ampere架构,Ampere架构是NVIDIA于 GTC 2020发布的GPU架构,NVIDIA Ampe
    的头像 发表于 11-14 16:30 1152次阅读
    对英伟达<b class='flag-5'>A100</b>芯片算力服务收费价格上调<b class='flag-5'>100</b>%,这家企业的硬气来自哪里?