0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

广告业务存储神器:华为云GaussDB(for Redis)

秃头也爱科技 来源:秃头也爱科技 作者:秃头也爱科技 2022-11-25 09:04 次阅读

摘要:高性能、大容量、低成本、强稳定性,广告业务需要的Ta都有

一、从需求场景说起,什么是RTA广告业务?

在互联网时代,媒体平台逐渐成为广告业务的主体,而作为广告主的企业往往每年需花费数亿甚至数十亿广告费,却依然难以准确触达目标用户,这就造成大量资金浪费。在这样的需求场景下,RTA广告业务模式逐渐流行起来。

RTA 即Realtime API的简称,是一套接口服务,用于满足广告主实时个性化的投放需求,在竞价中减少资金浪费。简单来说,RTA大体流程如下:

  1. 媒体在将广告曝光给用户前,先通过RTA接口询问广告主是否参与本次竞价;
  2. 广告主结合自己的__画像数据(一般是百GB~数TB的key-value数据)__进行决策,快速响应媒体侧,表明是否要参与本次曝光竞价,以及具体的曝光策略;
  3. 媒体平台根据价高者得原则,进行精准目标广告投放。

16692969122231dyzwpnsd7

RTA广告业务流程图

RTA让广告投放变得更精准,更省钱,还可以满足许多不同的投放需求,例如获取新用户、召回流失用户等。

二、聊聊RTA中的数据存储选型

对广告主来说,RTA业务价值明显,但媒体侧可是设置了不小的技术门槛,一般要求RTA系统高峰承载20w+ QPS,50到100ms快速响应。当不达标时,媒体侧会有降级和清退机制,例如暂时关闭广告主的RTA接入通道。

因此,RTA业务的首要需求是使用靠谱的画像数据库:

  1. 毫秒级响应,支持数十万级QPS
  2. 稳定性高,关键时刻不能掉链子
  3. 支持百GB~数TB的画像存储,且成本可控

根据经验,很多公司会使用开源Redis集群来做这件事,但其实__开源Redis并不太适合这类大数据场景:__

一方面,虽然开源Redis并发性能和响应都很优秀,但终究只是缓存,无法提供数据库级的稳定性保障,丢数据、fork抖动、分片不均OOM、扩容耗时久等等,都是很常见的问题。

另一方面,由于开源Redis中存放的数据无法突破内存限制,上百GB的数据存储价格非常昂贵,例如512GB规格的开源Redis接近5w/月。

在这类大数据业务场景下,我们推荐使用华为云数据库GaussDB(for Redis)做画像数据存储。

三、大数据业务存储神器:华为云数据库GaussDB(for Redis)

GaussDB(for Redis)是华为云企业级存算分离Redis数据库,使用上与开源Redis别无二致,并且能够兼顾缓存与存储两类典型场景:

  1. 内存+分布式存储池(Nvme SSD),提供毫秒级响应速度,并实现了大幅降本
  2. 命令兼容度>98%,业务零改造平迁
  3. 容量最大支持36TB,高压缩比,且保障数据库级别可靠存储
  4. 算力用多少买多少,支持水平扩展到千万级QPS
  5. 无感热扩容,128GB到512GB也只需一秒
  6. 支持多DB租户访问权限隔离(增强版ACL)

RTA广告业务对画像存储的核心需求是:响应快、稳定性高、大容量且不贵,GaussDB(for Redis)充分满足这类大数据业务需求。

  • 超低时延,性能满足媒体侧要求

根据现网的案例经验,在数十万QPS流量下,GaussDB(for Redis)可稳定保持平均时延1ms,p99时延2ms。

媒体侧一般对广告主端到端响应要求在50~100ms,这其中包括了业务及网络链路的耗时,GaussDB(for Redis)可以很好地满足响应要求,并给业务链路留有充足的余量。

为什么GaussDB(for Redis)在存算分离的架构下还能提供低时延访问?

  1. 自动冷热分离,计算层的内存资源会被用来充分加速热数据
  2. 存储池是基于高性能Nvme SSD和RDMA网络所构建,响应速度其实也很快

实际上,响应快速并非内存的专利,Nvme SSD同样有优秀的时延表现,下图是市面上某款Nvme SSD的性能指标:

16692969130463z2177nyhq

  • 作为存算分离的数据库,稳定性远超缓存Redis

开源Redis的稳定性问题存在已久,单线程、fork机制、Gossip协议……这些都是让开源Redis稳定性不够好的原因。在小数据量缓存场景问题不一定经常出现,但在百GB的大数据存储场景下很容易成为打破系统稳定的隐患。

GaussDB(for Redis)存算分离架构对稳定性的提升是巨大的。在扩容场景,只需调整存储池配合,即可1秒完成扩容,业务0感知。由于数据全部存储在分布式存储池中,当计算节点发生故障,数据依然可见,业务只感知秒级抖动。同时,也不会发生分片数据不均OOM问题。

  • 存储百GB画像数据,比缓存Redis成本节省 50%以上

GaussDB(for Redis)在这类场景下能够帮助企业实现有效降本,原因是:

  1. 内存+分布式存储池(Nvme SSD)

开源Redis技术上无法突破内存限制,因此成本会随着每涨1GB而线性增长,大数据业务中很容易带来成本痛点。

GaussDB(for Redis)分布式存储池采用的高性能Nvme SSD硬件成本虽然比普通SSD高,但是跟内存相比还是比较高性价比的。另外还支持根据实际所需QPS购买计算节点,避免不必要的算力成本浪费。

  1. 高压缩比

很多画像类业务使用protobuf格式,GaussDB(for Redis)采用了逻辑数据+块数据双重压缩机制,对于protobuf的压缩比效果很好。根据现网案例经验,500GB的protobuf数据写入GaussDB(for Redis)后,实际占用的存储空间可压缩到160G,压缩率30%。

四、总结

RTA广告竞价业务近年来发展潜力巨大,一方面要满足媒体侧的性能指标要求,另一方面又要承担企业降本重任。在这类典型大数据业务中,往往需要一款能够兼顾性能与存储降本需求的KV数据库来做画像存储,华为云数据库GaussDB(for Redis)无论从性能、稳定性,还是大容量、低成本,都充分满足这类场景的需求,是其最佳存储选型。
审核编辑:汤梓红

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 存储
    +关注

    关注

    13

    文章

    4332

    浏览量

    85957
  • 华为云
    +关注

    关注

    3

    文章

    2607

    浏览量

    17486
收藏 人收藏

    评论

    相关推荐

    华为Flexus X实例,Redis性能加速评测及对比

    随着计算技术的飞速发展,Redis 作为一种高性能的内存数据库,在各种应用场景中发挥着越来越重要的作用。为了满足不同用户对 Redis 性能的高要求,华为
    的头像 发表于 12-29 15:47 185次阅读
    <b class='flag-5'>华为</b><b class='flag-5'>云</b>Flexus X实例,<b class='flag-5'>Redis</b>性能加速评测及对比

    华为 Flexus X 轻松实现 Redis 一主多从高效部署

    ,Flexus X 预装 Redis 加速镜像,简化了 Redis 的安装和配置流程,降低了技术门槛,使开发者能够更专注于业务逻辑的实现。         本文将详细介绍如何在华为
    的头像 发表于 12-27 13:45 200次阅读
    <b class='flag-5'>华为</b><b class='flag-5'>云</b> Flexus X 轻松实现 <b class='flag-5'>Redis</b> 一主多从高效部署

    OpenAI考虑将广告引入AI产品,拓展收入来源

    产品的ChatGPT日益受到市场关注。 据知情人士透露,为了这一目的,OpenAI正在积极从包括Meta和谷歌在内的科技巨头那里招募广告领域的专业人才。这些人才的加入,无疑将为OpenAI在广告业务上的布局提供强有力的支持。 然而,Sarah Friar也在声明中谨慎地指
    的头像 发表于 12-04 13:58 248次阅读

    NVIDIA助力百度提升数据分析效能

    在现代商业环境中,数据分析已然成为企业获取成功的关键所在。长期以来,百度广告数据团队始终面临着极为复杂的数据分析挑战,其需要为逾千名用户提供在线广告业务分析服务,而这些用户涵盖策略工程师、产品经理
    的头像 发表于 11-20 10:06 218次阅读

    大模型时代下的新一代广告系统

    沿的深度学习等算法技术,创新并应用到业务实践中,赋能千万商家和数亿消费者的消费连接,不断拓展中国乃至全世界的数字经济边界。 在这里,你将与各业务、产品、工程团队紧密合作,深入京东亿量级的数据与丰富的广告业务场景
    的头像 发表于 09-20 14:40 214次阅读
    大模型时代下的新一代<b class='flag-5'>广告</b>系统

    恒讯科技分析:数据库rds和redis区别是什么如何选择?

    数据库RDS(Relational Database Service)和Redis是两种不同类型的数据库服务,它们有各自的特点和适用场景: 1、数据模型:RDS是一种关系型数据库服务,通常用于存储
    的头像 发表于 08-19 15:31 425次阅读

    Redis 开源社区持续壮大,华为为 Valkey 项目注入新的活力

    Valkey 社区的 Technical Steering Committee member,华为将持续参与社区建设。 一、背景 今年 3 月 21 日,Redis Labs 宣布从 Re
    的头像 发表于 05-09 22:59 757次阅读
    <b class='flag-5'>Redis</b> 开源社区持续壮大,<b class='flag-5'>华为</b><b class='flag-5'>云</b>为 Valkey 项目注入新的活力

    华为GaussDB数据库基础版发布:旗舰性能、价格下降超60%

    高性价比:相比企业版,华为 GaussDB 基础版价格大幅下调(降幅达 60%-70%),且支持全场景数据压缩,具有“超高压缩比”,性能影响仅为 5%-10%,存储成本降低 50%。
    的头像 发表于 05-07 14:21 658次阅读

    苹果公司扩大佛罗里达州业务,租赁45000平方英尺空间。

    现阶段,苹果已经在迈阿密运营一家广告业务的分支机构,主要服务拉丁美洲市场。在此基础上,苹果准备将其在迈阿密南部的珊瑚盖布尔斯的新办公室进行扩建。
    的头像 发表于 04-10 10:52 341次阅读

    浅析 KV 存储之长尾时延问题,探寻行业更优解决方案!

    技术背景 目前,KV 存储的广泛使用极大程度上源于快速访问的业务需求,而这种业务通常对时延敏感度高,在较好的平均性能下,还需要解决特定场景下的性能抖动。开源 Redis 在 AOF 重
    的头像 发表于 04-08 18:28 1300次阅读
    浅析 KV <b class='flag-5'>存储</b>之长尾时延问题,探寻行业更优解决方案!

    华为 GeminiDB 发布新版本,全面支持 Redis 6.2

    华为 GeminiDB 是一款兼容 Redis 协议的弹性 KV(Key-Value)数据库,支持远超内存的容量和极致的性能,可支撑用户平滑迁移,在广告、游戏、电商等行业有着广泛的应
    的头像 发表于 04-08 18:22 1144次阅读
    <b class='flag-5'>华为</b><b class='flag-5'>云</b> GeminiDB 发布新版本,全面支持 <b class='flag-5'>Redis</b> 6.2

    数据安全没保障?GaussDB(for Redis) 为你保驾护航

    未知的 key,实际上可能面临数据库信息丢失和记录篡改的风险。 作为一个重视技术的团队,我们始终将用户信息安全和使用体验放在第一位。对于这次用户使用开源 Redis 遇到的问题,我们盘点了 GaussDB(for Redis)精
    的头像 发表于 03-28 22:09 689次阅读
    数据安全没保障?<b class='flag-5'>GaussDB</b>(for <b class='flag-5'>Redis</b>) 为你保驾护航

    GaussDB(for Redis) 特性揭秘:多租户管理

    华为 GaussDB(for Redis)持续完善企业级增强特性,是名副其实的 "Redis Plus" ,其中很经典的企业级特性是 多租
    的头像 发表于 03-28 22:06 759次阅读
    <b class='flag-5'>GaussDB</b>(for <b class='flag-5'>Redis</b>) 特性揭秘:多租户管理

    GaussDB(for Redis) 特性揭秘:大 key 治理

    运行过程中悄悄产生的,让人防不胜防。因此,一款可随时在线诊断,且能主动预警,防患于未然的 Redis 服务产品显得尤为重要。   作为由华为精心打造的企业级 Redis
    的头像 发表于 03-28 22:06 676次阅读
    <b class='flag-5'>GaussDB</b>(for <b class='flag-5'>Redis</b>) 特性揭秘:大 key 治理

    GaussDB(for Redis) 游戏实践:玩家下线行为上报

    实现以上功能时,感知用户下线行为延迟较大,导致上报时间不准确。华为 GaussDB(for Redis)作为一款企业级游戏数据库,具备卓越的企业级能力,能及时上报用户下线行为,并被
    的头像 发表于 03-28 22:03 535次阅读