0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

软件系统数据库的分库分表设计

h1654155333.5939 来源:laobabab 作者:laobabab 2024-08-22 11:39 次阅读

软件系统数据库的分库分表设计

系统读写分离、分库分表技术实现采用MyCat中间件,MyCat 是一款开源(遵循 Apache License 2.0 协议)的大数据库集群中间件,用于搭建数据库的分布式集群,实现分库分表功能,解决数据库中海量数据存储和查询性能的问题。MyCat 还是一个数据库的集群中间件,主要实现 RDBMS 数据库集群的故障转移、负载均衡、读写分离等功能。

MyCat 的关键技术是分库分表,它通过将数据库中物理表中的数据切分成多个表分片,并将表分片存储在多个数据库节点上,从而构建分布式存储架构,提升巨表关联、排序、分组聚合等 OLAP 的能力。

分库分表的工作原理:拦截客户端提交的SQL语句并进行分析(如:分片分析、路由分析、读写分离分析、缓存分析等),然后将此SQL发往后端的真实数据库,并将返回的结果处理(如:数据合并)后再返回给客户端。如下图:

wKgZombGsDeAbXZcAADe-3smVHg464.png

分库分表单规则匹配1

wKgaombGsEKAO49QAAD6kbgo5tI468.png

分库分表单规则匹配2

MyCat 还是一个位于数据库和客户端之间,主要实现读写分离功能的集群中间件。主要解决在业务系统存在大量的读并发时,通过负载均衡提高查询请求吞吐量,并将多个数据库节点集群化管理,在多主集群中单点数据库故障时候选主节点切换。

wKgZombGsEuAYwMNAAC8A0J_N0E501.png

图90MyCat数据库集群

MyCat组件适用于的场景如下:

1)适用于 MySQL 、Oracle等主流数据库集群的读写分离、候选主节点切换、负载均衡等高可用模式;

2)适用于 MySQL 、Oracle等主流数据库集群的分表分库,对于单表数据超过1000 万的物理表进行分片,最大支持1000亿数据的单表分片;

3)适用于多租户应用,通过分库分表实现应用数据按照租户划分物理数据库存储。从租户的角度来看,个人应用的数据集约存储在独立的空间,从应用角度看,分布式数据库有利于海量数据的分析和查询;

4)适用于海量数据的统计、分析、研判等 OLAP 能力的支撑数据库,分库分表能够快速完成巨表关联、排序、分组聚合等数据计算功能;

5) 适用于海量数据的实时查询,如:百亿数据频繁查询的记录需要在3秒内反馈结果,包括主键查询、范围查询或其他属性查询的情况;

wKgZombGsFWAY_XCAADiAPckBkM865.png

​数据库集群部署拓扑图


审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 数据库
    +关注

    关注

    7

    文章

    3707

    浏览量

    64019
  • 软件系统
    +关注

    关注

    0

    文章

    60

    浏览量

    9457
收藏 人收藏

    评论

    相关推荐

    数据库数据恢复—SqlServer数据库底层File Record被截断为0的数据恢复案例

    SQL Server数据库数据无法被读取。 经过数据库数据恢复工程师的初步检测,发现SQL Server数据库文件无法被读取的原因是底层
    的头像 发表于 07-26 11:27 242次阅读
    <b class='flag-5'>数据库</b><b class='flag-5'>数据</b>恢复—SqlServer<b class='flag-5'>数据库</b>底层File Record被截断为0的<b class='flag-5'>数据</b>恢复案例

    恒讯科技分析:sql数据库怎么用?

    SQL数据库的使用通常包括以下几个基本步骤: 1、选择数据库系统: 选择适合您需求的SQL数据库系统,如MySQL、PostgreSQL、Microsoft SQL Server、SQLite等
    的头像 发表于 07-15 14:40 204次阅读

    分库后复杂查询的应对之道:基于DTS实时性ES宽构建技术实践

    1 问题域 业务发展的初期,我们的数据库架构往往是单,外加读写分离来快速的支撑业务,随着用户量和订单量的增加,数据库的计算和存储往往会成为我们
    的头像 发表于 06-25 18:30 705次阅读
    <b class='flag-5'>分库</b><b class='flag-5'>分</b><b class='flag-5'>表</b>后复杂查询的应对之道:基于DTS实时性ES宽<b class='flag-5'>表</b>构建技术实践

    数据库数据恢复—raid5阵列上层Sql Server数据库数据恢复案例

    数据库数据恢复环境: 5块硬盘组建一组RAID5阵列,划分LUN供windows系统服务器使用。windows系统服务器内运行了Sql Server
    的头像 发表于 05-08 11:43 390次阅读
    <b class='flag-5'>数据库</b><b class='flag-5'>数据</b>恢复—raid5阵列上层Sql Server<b class='flag-5'>数据库</b><b class='flag-5'>数据</b>恢复案例

    通过Modbus读写数据库中的数据

    本文是将数据库数据转为Modbus服务端/从站,实现数据库内的数据也可以走Modbus协议通过网口或串口读写的案例,下图是通过智能网关的参数软件
    发表于 03-14 13:44

    IZYTRONIQ测试软件介绍——管理测试设备数据库

    一款完整的用于管理和记录测试过程的数据库软件IZYTRONIQ
    的头像 发表于 01-11 11:11 316次阅读
    IZYTRONIQ测试<b class='flag-5'>软件</b>介绍——管理测试设备<b class='flag-5'>数据库</b>

    数据库数据恢复—未开启binlog的Mysql数据库数据恢复案例

    mysql数据库数据恢复环境: 本地服务器,windows server操作系统 ,部署有mysql单实例,数据库引擎类型为innodb,独立
    的头像 发表于 12-08 14:18 922次阅读
    <b class='flag-5'>数据库</b><b class='flag-5'>数据</b>恢复—未开启binlog的Mysql<b class='flag-5'>数据库</b><b class='flag-5'>数据</b>恢复案例

    oracle数据库的基本操作

    、创建、插入数据、查询数据、更新数据和删除数据等。 首先,连接到Oracle数据库是进行任何操
    的头像 发表于 12-06 10:14 543次阅读

    什么是JSON数据库

    数据库的显著优势关于JSON数据库的Q&A一、什么是JSON?首先,我们得明确“JSON”的含义。开发人员在创建业务逻辑、用户界面、数据库或后端系统时,需要一种描述
    的头像 发表于 12-02 08:04 682次阅读
    什么是JSON<b class='flag-5'>数据库</b>

    NoSQL 数据库如何选型

    数据库。不管它是“nonSQL”的缩写,还是“notonlySQL”的缩写,大多数人都同意,NoSQL数据库是以关系之外的格式存储数据的。NoSQL
    的头像 发表于 11-26 08:05 356次阅读
    NoSQL <b class='flag-5'>数据库</b>如何选型

    为什么要分库?MySQL分库实践

    刚开始多数项目用单机数据库就够了,随着服务器流量越来越大,面对的请求也越来越多,我们做了数据库读写分离, 使用多个从副本(Slave)负责读,使用主库(Master)负责写,master和slave通过主从复制实现
    的头像 发表于 11-25 17:47 1256次阅读
    为什么要<b class='flag-5'>分库</b><b class='flag-5'>分</b><b class='flag-5'>表</b>?MySQL<b class='flag-5'>分库</b><b class='flag-5'>分</b><b class='flag-5'>表</b>实践

    数据库select语句的基本用法

    数据库中的SELECT语句是用于从数据库中检索数据的基本工具。它是数据库语言(如SQL)中最常用的命令之一,几乎在每个
    的头像 发表于 11-17 15:08 1571次阅读

    数据库数据恢复—MySQL数据库误删除记录的数据恢复案例

    数据库数据恢复环境: 一台本地windows sever操作系统服务器,服务器上部署mysql数据库单实例,引擎类型为innodb,
    的头像 发表于 11-09 15:16 1122次阅读
    <b class='flag-5'>数据库</b><b class='flag-5'>数据</b>恢复—MySQL<b class='flag-5'>数据库</b><b class='flag-5'>表</b>误删除记录的<b class='flag-5'>数据</b>恢复案例

    数据库数据恢复-oracle数据库报错无法打开的数据恢复案例

    oracle数据库数据恢复环境: 一台服务器,底层由12块硬盘组成一组磁盘阵列,上层操作系统上运行oracle数据库。 oracle数据库
    的头像 发表于 10-12 14:00 698次阅读

    数据库分区、分库

    今天先说说数据库数据分区,分库以及的内容吧! 数据库分区、
    的头像 发表于 09-30 11:24 2013次阅读