0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

id的机制不同在mysql的索引结构以及优缺点

jf_ro2CN3Fa 来源:芋道源码 2023-06-30 10:19 次阅读

前言

一、mysql和程序实例

1.1.要说明这个问题,我们首先来建立三张表

1.2.光有理论不行,直接上程序,使用spring的jdbcTemplate来实现增查测试:

1.3.程序写入结果

1.4.效率测试结果

二、使用uuid和自增id的索引结构对比

2.1.使用自增id的内部结构

2.2.使用uuid的索引内部结构

2.3.使用自增id的缺点

三、总结

65b32dc2-16e6-11ee-962d-dac502259ad0.jpg

前言

在mysql中设计表的时候,mysql官方推荐不要使用uuid或者不连续不重复的雪花id(long形且唯一,单机递增),而是推荐连续自增的主键id,官方的推荐是auto_increment,那么为什么不建议采用uuid,使用uuid究竟有什么坏处?

本篇博客我们就来分析这个问题,探讨一下内部的原因。

本篇博客的目录

mysql程序实例 使用uuid和自增id的索引结构对比 总结

基于 Spring Boot + MyBatis Plus + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

项目地址:https://github.com/YunaiV/ruoyi-vue-pro

视频教程:https://doc.iocoder.cn/video/

一、mysql和程序实例

1.1.要说明这个问题,我们首先来建立三张表

分别是user_auto_key,user_uuid,user_random_key,分别表示自动增长的主键,uuid作为主键,随机key作为主键,其它我们完全保持不变.

根据控制变量法,我们只把每个表的主键使用不同的策略生成,而其他的字段完全一样,然后测试一下表的插入速度和查询速度:

注:这里的随机key其实是指用雪花算法算出来的前后不连续不重复无规律的id:一串18位长度的long值

id自动生成表:

65d4119a-16e6-11ee-962d-dac502259ad0.jpg

用户uuid表

65ef7ba6-16e6-11ee-962d-dac502259ad0.jpg

随机主键表:

66043e56-16e6-11ee-962d-dac502259ad0.png

1.2.光有理论不行,直接上程序,使用spring的jdbcTemplate来实现增查测试:

技术框架:springboot+jdbcTemplate+junit+hutool,程序的原理就是连接自己的测试数据库,然后在相同的环境下写入同等数量的数据,来分析一下insert插入的时间来进行综合其效率,为了做到最真实的效果,所有的数据采用随机生成,比如名字、邮箱、地址都是随机生成。

packagecom.wyq.mysqldemo;
importcn.hutool.core.collection.CollectionUtil;
importcom.wyq.mysqldemo.databaseobject.UserKeyAuto;
importcom.wyq.mysqldemo.databaseobject.UserKeyRandom;
importcom.wyq.mysqldemo.databaseobject.UserKeyUUID;
importcom.wyq.mysqldemo.diffkeytest.AutoKeyTableService;
importcom.wyq.mysqldemo.diffkeytest.RandomKeyTableService;
importcom.wyq.mysqldemo.diffkeytest.UUIDKeyTableService;
importcom.wyq.mysqldemo.util.JdbcTemplateService;
importorg.junit.jupiter.api.Test;
importorg.springframework.beans.factory.annotation.Autowired;
importorg.springframework.boot.test.context.SpringBootTest;
importorg.springframework.util.StopWatch;
importjava.util.List;
@SpringBootTest
classMysqlDemoApplicationTests{

@Autowired
privateJdbcTemplateServicejdbcTemplateService;

@Autowired
privateAutoKeyTableServiceautoKeyTableService;

@Autowired
privateUUIDKeyTableServiceuuidKeyTableService;

@Autowired
privateRandomKeyTableServicerandomKeyTableService;


@Test
voidtestDBTime(){

StopWatchstopwatch=newStopWatch("执行sql时间消耗");


/**
*auto_incrementkey任务
*/
finalStringinsertSql="INSERTINTOuser_key_auto(user_id,user_name,sex,address,city,email,state)VALUES(?,?,?,?,?,?,?)";

ListinsertData=autoKeyTableService.getInsertData();
stopwatch.start("自动生成key表任务开始");
longstart1=System.currentTimeMillis();
if(CollectionUtil.isNotEmpty(insertData)){
booleaninsertResult=jdbcTemplateService.insert(insertSql,insertData,false);
System.out.println(insertResult);
}
longend1=System.currentTimeMillis();
System.out.println("autokey消耗的时间:"+(end1-start1));

stopwatch.stop();


/**
*uudID的key
*/
finalStringinsertSql2="INSERTINTOuser_uuid(id,user_id,user_name,sex,address,city,email,state)VALUES(?,?,?,?,?,?,?,?)";

ListinsertData2=uuidKeyTableService.getInsertData();
stopwatch.start("UUID的key表任务开始");
longbegin=System.currentTimeMillis();
if(CollectionUtil.isNotEmpty(insertData)){
booleaninsertResult=jdbcTemplateService.insert(insertSql2,insertData2,true);
System.out.println(insertResult);
}
longover=System.currentTimeMillis();
System.out.println("UUIDkey消耗的时间:"+(over-begin));

stopwatch.stop();


/**
*随机的long值key
*/
finalStringinsertSql3="INSERTINTOuser_random_key(id,user_id,user_name,sex,address,city,email,state)VALUES(?,?,?,?,?,?,?,?)";
ListinsertData3=randomKeyTableService.getInsertData();
stopwatch.start("随机的long值key表任务开始");
Longstart=System.currentTimeMillis();
if(CollectionUtil.isNotEmpty(insertData)){
booleaninsertResult=jdbcTemplateService.insert(insertSql3,insertData3,true);
System.out.println(insertResult);
}
Longend=System.currentTimeMillis();
System.out.println("随机key任务消耗时间:"+(end-start));
stopwatch.stop();


Stringresult=stopwatch.prettyPrint();
System.out.println(result);
}

1.3.程序写入结果

user_key_auto写入结果:

661f2fd6-16e6-11ee-962d-dac502259ad0.png

user_random_key写入结果:

66459d6a-16e6-11ee-962d-dac502259ad0.png

user_uuid表写入结果:

66989fc4-16e6-11ee-962d-dac502259ad0.png

1.4.效率测试结果

66f5c6e0-16e6-11ee-962d-dac502259ad0.png

在已有数据量为130W的时候:我们再来测试一下插入10w数据,看看会有什么结果:

670c64a4-16e6-11ee-962d-dac502259ad0.png

可以看出在数据量100W左右的时候,uuid的插入效率垫底,并且在后序增加了130W的数据,uudi的时间又直线下降。

时间占用量总体可以打出的效率排名为:auto_key>random_key>uuid,uuid的效率最低,在数据量较大的情况下,效率直线下滑。那么为什么会出现这样的现象呢?带着疑问,我们来探讨一下这个问题:

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

项目地址:https://github.com/YunaiV/yudao-cloud

视频教程:https://doc.iocoder.cn/video/

二、使用uuid和自增id的索引结构对比

2.1.使用自增id的内部结构

67213ca8-16e6-11ee-962d-dac502259ad0.png

自增的主键的值是顺序的,所以Innodb把每一条记录都存储在一条记录的后面。当达到页面的最大填充因子时候(innodb默认的最大填充因子是页大小的15/16,会留出1/16的空间留作以后的 修改):

①下一条记录就会写入新的页中,一旦数据按照这种顺序的方式加载,主键页就会近乎于顺序的记录填满,提升了页面的最大填充率,不会有页的浪费

②新插入的行一定会在原有的最大数据行下一行,mysql定位和寻址很快,不会为计算新行的位置而做出额外的消耗

③减少了页分裂和碎片的产生

2.2.使用uuid的索引内部结构

67332436-16e6-11ee-962d-dac502259ad0.jpg

因为uuid相对顺序的自增id来说是毫无规律可言的,新行的值不一定要比之前的主键的值要大,所以innodb无法做到总是把新行插入到索引的最后,而是需要为新行寻找新的合适的位置从而来分配新的空间。

这个过程需要做很多额外的操作,数据的毫无顺序会导致数据分布散乱,将会导致以下的问题:

①写入的目标页很可能已经刷新到磁盘上并且从缓存上移除,或者还没有被加载到缓存中,innodb在插入之前不得不先找到并从磁盘读取目标页到内存中,这将导致大量的随机IO

②因为写入是乱序的,innodb不得不频繁的做页分裂操作,以便为新的行分配空间,页分裂导致移动大量的数据,一次插入最少需要修改三个页以上

③由于频繁的页分裂,页会变得稀疏并被不规则的填充,最终会导致数据会有碎片

在把随机值(uuid和雪花id)载入到聚簇索引(innodb默认的索引类型)以后,有时候会需要做一次OPTIMEIZE TABLE来重建表并优化页的填充,这将又需要一定的时间消耗。

结论:使用innodb应该尽可能的按主键的自增顺序插入,并且尽可能使用单调的增加的聚簇键的值来插入新行

2.3.使用自增id的缺点

那么使用自增的id就完全没有坏处了吗?并不是,自增id也会存在以下几点问题:

①别人一旦爬取你的数据库,就可以根据数据库的自增id获取到你的业务增长信息,很容易分析出你的经营情况

②对于高并发的负载,innodb在按主键进行插入的时候会造成明显的锁争用,主键的上界会成为争抢的热点,因为所有的插入都发生在这里,并发插入会导致间隙锁竞争

③Auto_Increment锁机制会造成自增锁的抢夺,有一定的性能损失

附:Auto_increment的锁争抢问题,如果要改善需要调优innodb_autoinc_lock_mode的配置

三、总结

本篇博客首先从开篇的提出问题,建表到使用jdbcTemplate去测试不同id的生成策略在大数据量的数据插入表现,然后分析了id的机制不同在mysql的索引结构以及优缺点,深入的解释了为何uuid和随机不重复id在数据插入中的性能损耗,详细的解释了这个问题。

在实际的开发中还是根据mysql的官方推荐最好使用自增id,mysql博大精深,内部还有很多值得优化的点需要我们学习。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 磁盘
    +关注

    关注

    1

    文章

    375

    浏览量

    25201
  • 数据库
    +关注

    关注

    7

    文章

    3794

    浏览量

    64360
  • MySQL
    +关注

    关注

    1

    文章

    804

    浏览量

    26528

原文标题:用雪花 id 和 uuid 做 MySQL 主键,被领导怼了

文章出处:【微信号:芋道源码,微信公众号:芋道源码】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    MySQL索引的创建与删除

    MySQL——索引技巧以及注意事项
    发表于 10-31 09:27

    mysql索引使用技巧有哪些?

    mysql索引使用技巧
    发表于 05-20 06:09

    Oracle与MySQL优缺点和使用区别

    关系型数据库(Oracle与MySQL优缺点、使用区别)
    发表于 06-04 16:48

    MySQL索引使用优化和规范

    MySQL - 索引使用优化和规范
    发表于 06-15 16:01

    阐述FreeRTOS系统中的机制及在应用中的优缺点

    :FreeRTOS是一个源码公开的免费的嵌入式实时操作系统,通过研究其内核可以更好地理解嵌入式操作系统的实现原理.本文主要阐述FreeRTOS系统中的任务调度机制、时间管理机制、任务管理机制
    发表于 12-20 06:34

    DMA的传输过程与优缺点

    系列索引:《嵌入式系统原理与应用》 | 嵌入式系统 重点知识梳理目录DMA的定义及传输要素DMA的传输过程DMA的优缺点及其适用场景STM32中DMA的特点STM32中DMA的优先级机制STM32中
    发表于 12-22 06:15

    开关电源拓扑结构优缺点

    开关电源的相关知识学习教材资料——开关电源拓扑结构优缺点
    发表于 09-20 16:10 0次下载

    MySQL索引使用原则

    一般来说, MySQL 中的 B-Tree 索引的物理文件大多都是以 Balance Tree 的结构来存储的,也就是所有实际需要的数据都存放于 Tree 的 Leaf Node(叶子节点) ,而且
    的头像 发表于 02-11 15:17 2715次阅读
    <b class='flag-5'>MySQL</b><b class='flag-5'>索引</b>使用原则

    MySQL索引的使用问题

    一、前言 在MySQL中进行SQL优化的时候,经常会在一些情况下,对MySQL能否利用索引有一些迷惑。譬如:1、MySQL 在遇到范围查询条件的时候就停止匹配了,那么到底是哪些范围条件
    的头像 发表于 01-06 16:13 1602次阅读

    MySQL高级进阶:索引优化

    MySQL官方对于索引的定义:索引是帮助MySQL高效获取数据的数据结构
    的头像 发表于 06-11 11:13 568次阅读
    <b class='flag-5'>MySQL</b>高级进阶:<b class='flag-5'>索引</b>优化

    MySQL为什么选择B+树作为索引结构

    MySQL中,无论是Innodb还是MyIsam,都使用了B+树作索引结构(这里不考虑hash等其他索引)。本文将从最普通的二叉查找树开始,逐步说明各种树解决的问题
    的头像 发表于 07-20 11:28 944次阅读
    <b class='flag-5'>MySQL</b>为什么选择B+树作为<b class='flag-5'>索引</b><b class='flag-5'>结构</b>?

    MySQL索引的常用知识点

    索引结构:B+树 索引其实是一种数据结构 注意B+树是MySQL索引默认的
    的头像 发表于 09-30 16:43 455次阅读

    索引是什么意思 优缺点有哪些

    的数据结构,以协助快速查询、更新数据库表中数据。索引的实现通常使用B树及其变种B+树。更通俗的说,索引就相当于目录。为了方便查找书中的内容,通过对内容建立索引形成目录。而且
    的头像 发表于 10-09 10:19 2917次阅读

    导致MySQL索引失效的情况以及相应的解决方法

    导致MySQL索引失效的情况以及相应的解决方法  MySQL索引的目的是提高查询效率,但有些情况下索引
    的头像 发表于 12-28 10:01 752次阅读

    一文了解MySQL索引机制

    的呢?一起静下心来,耐心看完这篇文章吧,干货不啰嗦,相信你一定会有所收获。 一、索引模型 模型也就是数据结构,常见的三种模型分别是哈希表、有序数组和搜索树。 了解MySQL的朋友已经知道,现在
    的头像 发表于 07-25 14:05 283次阅读
    一文了解<b class='flag-5'>MySQL</b><b class='flag-5'>索引</b><b class='flag-5'>机制</b>