0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

数据库性能翻3倍:虹科Redis企业版软件的RoF技术是如何做到的?

广州虹科电子科技有限公司 来源:广州虹科电子科技有限公 作者:广州虹科电子科技 2022-11-30 17:23 次阅读

虹科云科技,企业级云科技方案的引领者

be402a78-6f05-11ed-8abf-dac502259ad0.png

Redis on flash简介

Redis on Flash (RoF)是Redis的分层存储技术,即将数据存放在不同地方。Redis自2016年以来支持Redis on Flash。从2019年开始, Redis企业版(Redis Enterprise)宣布支持英特尔Optane DC持久性内存,它在DRAM和SSD之间提供了一个新的持久性内存层。

分层存储技术

be402a78-6f05-11ed-8abf-dac502259ad0.png

Redis企业版简介

虹科Redis企业版软件(Redis Enterprise)是企业级的数据库软件,也是一款实时数据平台,为全球超过8500家知名企业提供实时数据服务。具有线性可扩展性、高可用性、持久性、备份和恢复、地理分布、分层内存访问、多租户、安全性等8大核心功能、拥有RediSearch、RedisJSON等7大【Redis企业版特有模块】,可以任何规模在云、本地和混合部署中运行现代应用程序,提供无服务器、多模型的数据库解决方案。Redis企业版的核心优势是采用Redis on flash分层存储技术即【内存+闪存+磁盘】的存储方式,其Active-Active地理分布式架构允许跨地理位置同时进行数据读写操作、拥有亚毫秒延迟和极高吞吐量。

功能最齐全的企业级数据库

Redis on Flash (RoF)一直是非常受欢迎的企业功能之一,RoF将高达80%的数据集存储在SSD而不是昂贵的DRAM中,同时还能够保持亚毫秒级延迟和Redis的高吞吐量。在典型部署中,Redis on Flash可提供高达70%的TCO折扣。

目前,两项实践项目证明,Redis on Flash可以提供高达3.7倍的性能,在Redis上运行大型数据集可以保持超高性价比的TCO(总拥有成本):

AWS宣布全面推出新一代实例Amazon EC2 I4i,该实例由第三代Intel Xeon可扩展处理器(代号 Ice Lake)和基于AWS Nitro SSD NVMe的存储提供支持。Amazon EC2 I4i承诺将会为Redis客户提供显著提升的功能。

Redis宣布将Redis on Flash数据引擎开放给任何与RocksDB兼容的数据库,并将Speedb宣布的新技术作为首选。

因此,随着公司对低延迟微服务架构的需求增加,AWS的Amazon EC2 I4i实例+ Redis企业版的Redis on Flash数据引擎将会给用户带来超凡的性能体验。

Amazon I4i和Speedb为RoF带来了什么?

首先,我们先深入了解一下Redis on Flash的新功能。AWS 正在提供新的 Amazon EC2 I4i(“i”代表 Intel)实例,I4i实例使用最新技术、Intel Ice Lake处理器和AWS Nitro SSD,与上一代I3实例相比,I4i实例提高了读写能力(IOPS)并减少了延迟。

除了硬件之外,Redis企业版一直在寻找能够让RoF提供更高性能的方法。Redis Enterprise发现,如果将数据引擎开放给客户,会帮助企业看到创新机会并提高企业创新速度。目前,Redis企业版的RoF对任何与RocksDB兼容的数据引擎开放。Speedb提供RocksDB存储引擎的嵌入式解决方案,与Redis团队建立战略合作,重新设计了RocksDB的内部数据结构,为大容量实时数据集提供可节省CPU、高性能大规模且降低成本的存储方式。

通过亚毫秒级测试发现,无论我们使用的是I4i还是I3的AWS EC2实例,Speedb都可以将RoF的性能提高50%。(带有Speedb的 RoF目前提供预览版本,具体可以联系虹科云科技团队获得更多信息及试用服务)

Redis on Flash的基准测试

1.Redis on Flash的应用场景

基于AWS的I4i实例和Speedb数据引擎,Redis企业版(Redis Enterprise)非常荣幸能够第一个全面测试 Amazon EC2 I4i 实例的 AWS 合作伙伴,并使用Redis on Flash的新Speedb数据引擎对其进行测试

这里想要强调一下,Redis on Flash能够智能的对大型数据集进行分层,其目的是利用比DRAM每GiB价格更低的NVMe SSD,从而使得Redis企业版(Redis Enterprise)能够以DRAM实例30%的TCO(总拥有成本)就可以获得Redis级性能,如果加上AWS的I4i实例将会有更高的性能。

在获得基准测试结果之前,我们可以明确一下客户在何种场景下可以选择RoF:

数据迁移DRAM 成本高昂。如果将小于总数据集进行迁移需要额外的、成本高昂的 DRAM ,那么用户可以考虑Redis企业版的Redis on Flash。

需要批量进行数据处理。如果企业需要为关键业务应用程序处理大量数据,且需要在处理数据的同时保持应用程序的低延迟和高吞吐量,那么用户可以考虑Redis企业版的Redis on Flash。

2.进行基准测试

1)Redis on Flash性能比较

我们在四个 AWS 实例上比较了 Redis on Flash 的性能:

be7d1af0-6f05-11ed-8abf-dac502259ad0.png

2)数据引擎的性能比较

我们比较了两个数据引擎的性能:

RocksDB

Speedb

测试参数

我们使用了 1KiB 的值大小,涵盖了大多数标准 Redis 用例

我们测试了 50% 和 85% 的 RAM 命中率(即直接从 RAM 处理的许多请求)

我们测试了 20:80 RAM:Flash 比率

我们对各种读写比率进行了基准测试:1: 1、4:1 和 1:4

所有测试均使用两台服务器完成

以下是我们根据实例类型运行的数据库大小:

I4i.4xlarge: 500GB + replication. 5 Primary shards + 5 Replica shards

i3.8xlarge: 1TB + replication. 10 Primary shards + 10 Replica shards

I4i.8xlarge: 1TB + replication. 10 Primary shards + 10 Replica shards

I4i.16xlarge: 2TB + replication. 20 Primary shards + 20 Replica shards

在每种配置中,我们测试了在保持亚毫秒客户端延迟(不包括网络)的同时可以实现多少操作/秒。

3)测试结果

下图显示了 i3 与 I4i 以及 RocksDB 与 Speedb:

bea21512-6f05-11ed-8abf-dac502259ad0.png

我们可以看到以下改进:

bec59320-6f05-11ed-8abf-dac502259ad0.png

下图显示了 Speedb 上 I4i 的缩放比例和不同的读写比率:

bede9d66-6f05-11ed-8abf-dac502259ad0.png

我们可以看到以下结果和改进:

>>智能缩放,我们可以看到I4i上的RoF与Speedb几乎是线性缩放的。

4xlarge → 8xlarge 的因子为 ~1.55x-1.8x

8xlarge → 16xlarge 的缩放因子为 ~1.85x-1.95x

>>第二个值得注意的结果是I4i上的 RoF与Speedb对应用程序访问模式(读:写比率)非常不可知,这意味着其性能保持稳定且可预测。当使用多个不同的应用程序或访问模式随时间变化时,这对用户而言可能有极大的用处。

下图显示了Redis on Flash整体3.7 倍的性能提升(吞吐量操作/秒):

bf01cf0c-6f05-11ed-8abf-dac502259ad0.png

虹科云科技,主要分享企业级云解决方案,包括云计算、数据库、商业智能、数据可视化、高性能计算、数据管理、人工智能等相关知识、产品信息、应用案例及行业信息,如Redis Enterprise、Weka、Domo、Visokio、Nimibix等,为学习者传输前沿知识、为技术工程师解答专业问题、为企业找到最适合的云解决方案!

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • DRAM
    +关注

    关注

    40

    文章

    2303

    浏览量

    183286
  • 存储技术
    +关注

    关注

    5

    文章

    731

    浏览量

    45776
  • 数据库
    +关注

    关注

    7

    文章

    3759

    浏览量

    64265
  • ROF
    ROF
    +关注

    关注

    0

    文章

    8

    浏览量

    11204
  • Redis
    +关注

    关注

    0

    文章

    371

    浏览量

    10843

原文标题:虹科分享 | 数据库性能翻3倍:虹科Redis企业版软件的RoF技术是如何做到的?

文章出处:【微信号:Hongketeam,微信公众号:广州虹科电子科技有限公司】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    阿里云云数据库开了一个未来大会,谈了谈2038年的数据库趋势

    成为可能,HBase1.1实现了社区版本三性能突破,不仅如此,阿里云还是Redis社区的主要贡献者,长期高居第二名。跟上源源不断变化的未来场景,是阿里云云数据库的核心竞争力最近流行
    发表于 01-18 11:32

    一张图解读阿里云数据管理DMS企业版

    摘要: 阿里云数据管理DMS企业版,作为数据管理产品大家族里的新成员,于2017年11月开启公测,今年1月底正式发布商业化版本。 作为业界领先的面向企业
    发表于 01-30 09:35

    提升研发效率 保障数据安全——阿里云宣布数据管理DMS企业版正式商业化

    摘要: 阿里云数据管理DMS企业版,作为数据管理产品大家族里的新成员,于2017年11月开启公测,今年1月底正式发布商业化版本。 作为业界领先的面向企业
    发表于 01-30 14:07

    企业打开Redis的正确方式,来自阿里云云数据库团队的解读

    社区版本相比,前者高连接数下并发提升10、短链接并发提升5,后者支持本地盘成本下降90%、整体性能提升3。Figure 4:阿里云拥有
    发表于 02-07 14:06

    确保数据零丢失!阿里云数据库RDS for MySQL 三节点企业版正式商用

    ,具备极强竞争力。RDS for MySQL 三节点企业版适用于作为企业核心数据数据库,天然数据零丢失架构确保在任何场景下的
    发表于 11-14 23:06 478次阅读

    Panorama SCADA方案数据库功能的应用

    数据库系统作为SCADA系统中的重要组成部分,是进行数据采集、处理和存储的基础。Panorama SCADA软件平台拥有强大的
    的头像 发表于 02-09 10:28 712次阅读

    干货 | 打破传统!金融界黑科技—Redis企业版数据库

    面对数字化颠覆带来的挑战和压力,接受变化是关键!一些极力打破传统束缚,跟上科技新趋势的金融初创企业,已经开始考虑改变数据层方法,采用能满足新兴实时业务性能需求、实时数据模型和高可用性的
    的头像 发表于 04-20 11:32 416次阅读

    干货 | 教您简单几步实现OPC UA服务器数据存储到数据库

    IIoT科教您使用OVL软件轻松实现OPCUA服务器数据存储到数据库前言随着工业4.0的快
    的头像 发表于 05-24 16:35 2624次阅读
    <b class='flag-5'>虹</b><b class='flag-5'>科</b>干货 | 教您简单几步实现OPC UA服务器<b class='flag-5'>数据</b>存储到<b class='flag-5'>数据库</b>

    干货 | OPC解决方案之快速实现OPC数据存储到数据库

    获取更多IIoT干货点击蓝字关注我们IIoTOPC解决方案——快速实现OPC数据存储到数据库
    的头像 发表于 06-15 17:15 1260次阅读
    <b class='flag-5'>虹</b><b class='flag-5'>科</b>干货 | <b class='flag-5'>虹</b><b class='flag-5'>科</b>OPC解决方案之快速实现OPC<b class='flag-5'>数据</b>存储到<b class='flag-5'>数据库</b>

    方案 | 一种通过OPC技术提取数据库数据的解决方案

    获取更多IIoT干货点击蓝字关注我们一种通过OPC技术提取数据库数据的解决方案HongKeTechnology//方/案01前言随着工业
    的头像 发表于 09-29 11:45 598次阅读
    <b class='flag-5'>虹</b><b class='flag-5'>科</b>方案 | 一种通过OPC<b class='flag-5'>技术</b>提取<b class='flag-5'>数据库</b><b class='flag-5'>数据</b>的解决方案

    方案 | Panorama SCADA方案数据库功能应用

    IIoTPanoramaSCADA方案数据库功能应用
    的头像 发表于 02-09 16:32 842次阅读
    <b class='flag-5'>虹</b><b class='flag-5'>科</b>方案 | <b class='flag-5'>虹</b><b class='flag-5'>科</b>Panorama SCADA方案<b class='flag-5'>数据库</b>功能应用

    手把手教你激活物联网HMI/网关数据库功能

    物联网HMI/网关可以本地支持MySQL、PostgreSQL以及支持ODBC驱动连接的数据库,实现设备数据的存储,方便企业
    的头像 发表于 07-27 10:38 607次阅读
    手把手教你激活<b class='flag-5'>虹</b><b class='flag-5'>科</b>物联网HMI/网关<b class='flag-5'>数据库</b>功能

    手把手教你激活物联网HMI/网关数据库功能

    前言JMobileStudio4.5的更新使得物联网HMI/网关可以本地支持MySQL、PostgreSQL以及支持ODBC驱动连接的数据库,实现设备数据的存储,方便
    的头像 发表于 08-01 00:05 639次阅读
    手把手教你激活<b class='flag-5'>虹</b><b class='flag-5'>科</b>物联网HMI/网关<b class='flag-5'>数据库</b>功能

    redis是关系型数据库

    Redis不是关系型数据库,它是一种基于键值对的NoSQL数据库。在本文中,我将对Redis进行详细介绍,包括其特点、用途、常见命令和应用场景等。
    的头像 发表于 12-05 10:32 1491次阅读

    Redis开源版与Redis企业版,怎么选用?

    点击“蓝字”关注我们数以千计的企业和数以百万计的开发人员Redis开源版来构建应用程序。但随着用户数量、数据量和地区性的增加,成本、可扩展性、运营和可用性等问题也随之而来。Redis
    的头像 发表于 04-04 08:04 945次阅读
    <b class='flag-5'>Redis</b>开源版与<b class='flag-5'>Redis</b><b class='flag-5'>企业版</b>,怎么选用?