0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

探讨一下分布式锁的设计与实现

jf_ro2CN3Fa 来源:捡田螺的小男孩 2022-12-28 10:24 次阅读

1. 分布式锁概述

我们的系统都是分布式部署的,日常开发中,秒杀下单、抢购商品 等等业务场景,为了防⽌库存超卖,都需要用到分布式锁

分布式锁其实就是,控制分布式系统不同进程共同访问共享资源的一种锁的实现。如果不同的系统或同一个系统的不同主机之间共享了某个临界资源,往往需要互斥来防止彼此干扰,以保证一致性。

业界流行的分布式锁实现,一般有这3种方式:

基于数据库实现的分布式锁

基于Redis实现的分布式锁

基于Zookeeper实现的分布式锁

基于微服务的思想,构建在 B2C 电商场景下的项目实战。核心技术栈,是 Spring Boot + Dubbo 。未来,会重构成 Spring Cloud Alibaba 。

项目地址:https://github.com/YunaiV/onemall

2. 基于数据库的分布式锁

2.1 数据库悲观锁实现的分布式锁

可以使用select ... for update 来实现分布式锁。我们自己的项目,分布式定时任务 ,就使用类似的实现方案,我给大家来展示个简单版的哈

表结构如下:

CREATETABLE`t_resource_lock`(
`key_resource`varchar(45)COLLATEutf8_binNOTNULLDEFAULT'资源主键',
`status`char(1)COLLATEutf8_binNOTNULLDEFAULT''COMMENT'S,F,P',
`lock_flag`int(10)unsignedNOTNULLDEFAULT'0'COMMENT'1是已经锁0是未锁',
`begin_time`datetimeDEFAULTNULLCOMMENT'开始时间',
`end_time`datetimeDEFAULTNULLCOMMENT'结束时间',
`client_ip`varchar(45)COLLATEutf8_binNOTNULLDEFAULT'抢到锁的IP',
`time`int(10)unsignedNOTNULLDEFAULT'60'COMMENT'方法生命周期内只允许一个结点获取一次锁,单位:分钟',
PRIMARYKEY(`key_resource`)USINGBTREE
)ENGINE=InnoDBDEFAULTCHARSET=utf8COLLATE=utf8_bin

加锁lock方法的伪代码如下:

@Transcational//一定要加事务
publicbooleanlock(StringkeyResource,inttime){
resourceLock='select*fromt_resource_lockwherekey_resource='#{keySource}'forupdate';

try{
if(resourceLock==null){
//插入锁的数据
resourceLock=newResourceLock();
resourceLock.setTime(time);
resourceLock.setLockFlag(1);//上锁
resourceLock.setStatus(P);//处理中
resourceLock.setBeginTime(newDate());
intcount="insertintoresourceLock";
if(count==1){
//获取锁成功
returntrue;
}
returnfalse;
}
}catch(Exceptionx){
returnfalse;
}

//没上锁并且锁已经超时,即可以获取锁成功
if(resourceLock.getLockFlag=='0'&&'S'.equals(resourceLock.getstatus)
&&newDate()>=resourceLock.addDateTime(resourceLock.getBeginTime(,time)){
resourceLock.setLockFlag(1);//上锁
resourceLock.setStatus(P);//处理中
resourceLock.setBeginTime(newDate());
//updateresourceLock;
returntrue;
}elseif(newDate()>=resourceLock.addDateTime(resourceLock.getBeginTime(,time)){
//超时未正常执行结束,获取锁失败
returnfalse;
}else{
returnfalse;
}
}

解锁unlock方法的伪代码如下:

publicvoidunlock(Stringv,status){
resourceLock.setLockFlag(0);//解锁
resourceLock.setStatus(status);S:表示成功,F表示失败
//updateresourceLock;
return;
}

整体流程:

try{
if(lock(keyResource,time)){//加锁
status=process();//你的业务逻辑处理。
}
}finally{
unlock(keyResource,status);//释放锁
}

其实这个悲观锁实现的分布式锁,整体的流程还是比较清晰的。就是先select ... for update 锁住主键key_resource那个记录,如果为空,则可以插入一条记录,如果已有记录判断下状态和时间是否已经超时 。这里需要注意一下哈,必须要加事务 哈。

2.2 数据库乐观锁实现的分布式锁

除了悲观锁,还可以用乐观锁实现分布式锁 。乐观锁,顾名思义,就是很乐观,每次更新操作,都觉得不会存在并发冲突,只有更新失败后,才重试。它是基于CAS思想实现的。我以前的公司扣减余额 就是用这种方案。

搞个version字段,每次更新修改,都会自增加一,然后去更新余额时,把查出来的那个版本号,带上条件去更新,如果是上次那个版本号,就更新,如果不是,表示别人并发修改过了,就继续重试。

大概流程如下:

查询版本号和余额

selectversion,balancefromaccountwhereuser_id='666';

假设查到版本号是oldVersion=1.

逻辑处理,判断余额

if(balance<扣减金额){
   return;
}

left_balance = balance - 扣减金额;

进行扣减余额

updateaccountsetbalance=#{left_balance},version=version+1whereversion
=#{oldVersion}andbalance>=#{left_balance}anduser_id='666';

大家可以看下这个流程图哈:

15bba300-85b7-11ed-bfe3-dac502259ad0.png

这种方式适合并发不高 的场景,一般需要设置一下重试的次数

3.基于Redis实现的分布式锁

Redis分布式锁一般有以下这几种实现方式:

setnx + expire

setnx + value值是过期时间

set的扩展命令(set ex px nx)

set ex px nx + 校验唯一随机值,再删除

Redisson

Redisson + RedLock

3.1 setnx + expire

聊到Redis分布式锁,很多小伙伴反手就是setnx + expire,如下:

if(jedis.setnx(key,lock_value)==1){//setnx加锁
expire(key,100);//设置过期时间
try{
dosomething//业务处理
}catch(){
}
finally{
jedis.del(key);//释放锁
}
}

这段代码是可以加锁成功,但是你有没有发现问题,加锁操作和设置超时时间是分开的 。假设在执行完setnx加锁后,正要执行expire设置过期时间时,进程crash掉或者要重启维护了,那这个锁就长生不老 了,别的线程永远获取不到锁啦,所以分布式锁不能这么实现

3.2 setnx + value值是过期时间

longexpires=System.currentTimeMillis()+expireTime;//系统时间+设置的过期时间
StringexpiresStr=String.valueOf(expires);

//如果当前锁不存在,返回加锁成功
if(jedis.setnx(key,expiresStr)==1){
returntrue;
}
//如果锁已经存在,获取锁的过期时间
StringcurrentValueStr=jedis.get(key);

//如果获取到的过期时间,小于系统当前时间,表示已经过期
if(currentValueStr!=null&&Long.parseLong(currentValueStr)< System.currentTimeMillis()) {

     // 锁已过期,获取上一个锁的过期时间,并设置现在锁的过期时间(不了解redis的getSet命令的小伙伴,可以去官网看下哈)
    String oldValueStr = jedis.getSet(key, expiresStr);
    
    if (oldValueStr != null && oldValueStr.equals(currentValueStr)) {
         // 考虑多线程并发的情况,只有一个线程的设置值和当前值相同,它才可以加锁
         return true;
    }
}
        
//其他情况,均返回加锁失败
return false;
}

日常开发中,有些小伙伴就是这么实现分布式锁的,但是会有这些缺点

过期时间是客户端自己生成的,分布式环境下,每个客户端的时间必须同步。

没有保存持有者的唯一标识,可能被别的客户端释放/解锁

锁过期的时候,并发多个客户端同时请求过来,都执行了jedis.getSet(),最终只能有一个客户端加锁成功,但是该客户端锁的过期时间,可能被别的客户端覆盖。

3.3 set的扩展命令(set ex px nx)

这个命令的几个参数分别表示什么意思呢?跟大家复习一下:

SETkeyvalue[EXseconds][PXmilliseconds][NX|XX]

EX second :设置键的过期时间为second秒。

PX millisecond :设置键的过期时间为millisecond毫秒。

NX :只在键不存在时,才对键进行设置操作。

XX :只在键已经存在时,才对键进行设置操作。

if(jedis.set(key,lock_value,"NX","EX",100s)==1){//加锁
try{
dosomething//业务处理
}catch(){
}
finally{
jedis.del(key);//释放锁
}
}

这个方案可能存在这样的问题:

锁过期释放了,业务还没执行完。

锁被别的线程误删。

有些伙伴可能会有个疑问,就是锁为什么会被别的线程误删 呢?假设并发多线程场景下,线程A获得了锁,但是它没释放锁的话,线程B是获取不到锁的 ,所以按道理它是执行不到加锁下面的代码滴,怎么会导致锁被别的线程误删呢?

假设线程A和B,都想用key加锁,最后A抢到锁加锁成功,但是由于执行业务逻辑的耗时很长,超过了设置的超时时间100s。这时候,Redis就自动释放了key锁。这时候线程B就可以加锁成功了,接下啦,它也执行业务逻辑处理。假设碰巧这时候,A执行完自己的业务逻辑,它就去释放锁,但是它就把B的锁给释放了。

3.4 set ex px nx + 校验唯一随机值,再删除

为了解决锁被别的线程误删 问题。可以在set ex px nx的基础上,加上个校验的唯一随机值,如下:

if(jedis.set(key,uni_request_id,"NX","EX",100s)==1){//加锁
try{
dosomething//业务处理
}catch(){
}
finally{
//判断是不是当前线程加的锁,是才释放
if(uni_request_id.equals(jedis.get(key))){
jedis.del(key);//释放锁
}
}
}

在这里,判断当前线程加的锁和释放锁不是一个原子操作 。如果调用jedis.del()释放锁的时候,可能这把锁已经不属于当前客户端 ,会解除他人加的锁。

一般可以用lua脚本来包一下。lua脚本如下:

ifredis.call('get',KEYS[1])==ARGV[1]then
returnredis.call('del',KEYS[1])
else
return0
end;

这种方式比较不错了,一般情况下,已经可以使用这种实现方式。但是还是存在:锁过期释放了,业务还没执行完的问题

3.5 Redisson

对于可能存在锁过期释放,业务没执行完 的问题。我们可以稍微把锁过期时间设置长一些,大于正常业务处理时间就好啦。如果你觉得不是很稳,还可以给获得锁的线程,开启一个定时守护线程,每隔一段时间检查锁是否还存在,存在则对锁的过期时间延长,防止锁过期提前释放。

当前开源框架Redisson解决了这个问题。可以看下Redisson底层原理图:

15d46a8e-85b7-11ed-bfe3-dac502259ad0.png

只要线程一加锁成功,就会启动一个watch dog看门狗,它是一个后台线程,会每隔10秒检查一下,如果线程1还持有锁,那么就会不断的延长锁key的生存时间。因此,Redisson就是使用watch dog解决了锁过期释放,业务没执行完问题

3.6 Redisson + RedLock

前面六种方案都只是基于Redis单机版 的分布式锁讨论,还不是很完美。因为Redis 一般都是集群部署的:

15e61518-85b7-11ed-bfe3-dac502259ad0.png

如果线程一在Redis的master节点上拿到了锁,但是加锁的key还没同步到slave节点。恰好这时,master节点发生故障,一个slave节点就会升级为master节点。线程二就可以顺理成章获取同个key的锁啦,但线程一也已经拿到锁了,锁的安全性就没了。

为了解决这个问题,Redis作者antirez提出一种高级的分布式锁算法Redlock 。它的核心思想是这样的:

部署多个Redis master,以保证它们不会同时宕掉。并且这些master节点是完全相互独立的,相互之间不存在数据同步。同时,需要确保在这多个master实例上,是与在Redis单实例,使用相同方法来获取和释放锁。

我们假设当前有5个Redis master节点,在5台服务器上面运行这些Redis实例。

15fc434c-85b7-11ed-bfe3-dac502259ad0.png

RedLock的实现步骤:

获取当前时间,以毫秒为单位。

按顺序向5个master节点请求加锁。客户端设置网络连接和响应超时时间,并且超时时间要小于锁的失效时间。(假设锁自动失效时间为10秒,则超时时间一般在5-50毫秒之间,我们就假设超时时间是50ms吧)。如果超时,跳过该master节点,尽快去尝试下一个master节点。

客户端使用当前时间减去开始获取锁时间(即步骤1记录的时间),得到获取锁使用的时间。当且仅当超过一半(N/2+1,这里是5/2+1=3个节点)的Redis master节点都获得锁,并且使用的时间小于锁失效时间时,锁才算获取成功。(如上图,10s> 30ms+40ms+50ms+4m0s+50ms)

如果取到了锁,key的真正有效时间就变啦,需要减去获取锁所使用的时间。

如果获取锁失败(没有在至少N/2+1个master实例取到锁,有或者获取锁时间已经超过了有效时间),客户端要在所有的master节点上解锁(即便有些master节点根本就没有加锁成功,也需要解锁,以防止有些漏网之鱼)。

简化下步骤就是:

按顺序向5个master节点请求加锁

根据设置的超时时间来判断,是不是要跳过该master节点。

如果大于等于3个节点加锁成功,并且使用的时间小于锁的有效期,即可认定加锁成功啦。

如果获取锁失败,解锁!

Redisson实现了redLock版本的锁 ,有兴趣的小伙伴,可以去了解一下哈~

4. Zookeeper分布式锁

在学习Zookeeper分布式锁之前,我们复习一下Zookeeper的节点哈。

Zookeeper的节点Znode有四种类型:

持久节点 :默认的节点类型。创建节点的客户端与zookeeper断开连接后,该节点依旧存在。

持久节点顺序节点 :所谓顺序节点,就是在创建节点时,Zookeeper根据创建的时间顺序给该节点名称进行编号,持久节点顺序节点就是有顺序的持久节点。

临时节点 :和持久节点相反,当创建节点的客户端与zookeeper断开连接后,临时节点会被删除。

临时顺序节点 :有顺序的临时节点。

Zookeeper分布式锁实现应用了临时顺序节点 。这里不贴代码啦,来讲下zk分布式锁的实现原理吧。

4.1 zk获取锁过程

当第一个客户端请求过来时,Zookeeper客户端会创建一个持久节点locks。如果它(Client1)想获得锁,需要在locks节点下创建一个顺序节点lock1.如图

162247c2-85b7-11ed-bfe3-dac502259ad0.png

接着,客户端Client1会查找locks下面的所有临时顺序子节点,判断自己的节点lock1是不是排序最小的那一个,如果是,则成功获得锁。

1643921a-85b7-11ed-bfe3-dac502259ad0.png

这时候如果又来一个客户端client2前来尝试获得锁,它会在locks下再创建一个临时节点lock2

165d4854-85b7-11ed-bfe3-dac502259ad0.png

客户端client2一样也会查找locks下面的所有临时顺序子节点,判断自己的节点lock2是不是最小的,此时,发现lock1才是最小的,于是获取锁失败。获取锁失败,它是不会甘心的,client2向它排序靠前的节点lock1注册Watcher事件,用来监听lock1是否存在,也就是说client2抢锁失败进入等待状态。

1680f74a-85b7-11ed-bfe3-dac502259ad0.png

此时,如果再来一个客户端Client3来尝试获取锁,它会在locks下再创建一个临时节点lock3

169fd458-85b7-11ed-bfe3-dac502259ad0.png

同样的,client3一样也会查找locks下面的所有临时顺序子节点,判断自己的节点lock3是不是最小的,发现自己不是最小的,就获取锁失败。它也是不会甘心的,它会向在它前面的节点lock2注册Watcher事件,以监听lock2节点是否存在。

16c132ba-85b7-11ed-bfe3-dac502259ad0.png

4.2 释放锁

我们再来看看释放锁的流程,Zookeeper的客户端业务完成或者发生故障,都会删除临时节点,释放锁。如果是任务完成,Client1会显式调用删除lock1的指令

16d52752-85b7-11ed-bfe3-dac502259ad0.png

如果是客户端故障了,根据临时节点得特性,lock1是会自动删除的

16f5a8e2-85b7-11ed-bfe3-dac502259ad0.png

lock1节点被删除后,Client2可开心了,因为它一直监听着lock1。lock1节点删除,Client2立刻收到通知,也会查找locks下面的所有临时顺序子节点,发下lock2是最小,就获得锁。

172275ac-85b7-11ed-bfe3-dac502259ad0.png

同理,Client2获得锁之后,Client3也对它虎视眈眈,啊哈哈~

Zookeeper设计定位就是分布式协调,简单易用。如果获取不到锁,只需添加一个监听器即可,很适合做分布式锁。

Zookeeper作为分布式锁也缺点:如果有很多的客户端频繁的申请加锁、释放锁,对于Zookeeper集群的压力会比较大。

5. 三种分布式锁对比

5.1 数据库分布式锁实现

优点:

简单,使用方便,不需要引入Redis、zookeeper等中间件。

缺点:

不适合高并发的场景

db操作性能较差;

5.2 Redis分布式锁实现

优点:

性能好,适合高并发场景

较轻量级

有较好的框架支持,如Redisson

缺点:

过期时间不好控制

需要考虑锁被别的线程误删场景

5.3 Zookeeper分布式锁实现

缺点:

性能不如redis实现的分布式锁

比较重的分布式锁。

优点:

有较好的性能和可靠性

有封装较好的框架,如Curator

5.4 对比汇总

从性能角度(从高到低)Redis > Zookeeper >= 数据库;

从理解的难易程度角度(从低到高)数据库 > Redis > Zookeeper;

从实现的复杂性角度(从低到高)Zookeeper > Redis > 数据库;

从可靠性角度(从高到低)Zookeeper > Redis > 数据库。






审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 数据库
    +关注

    关注

    7

    文章

    3711

    浏览量

    64023
  • Lua语言
    +关注

    关注

    0

    文章

    8

    浏览量

    1478
  • Redis
    +关注

    关注

    0

    文章

    368

    浏览量

    10780

原文标题:面试必备:聊聊分布式锁的多种实现!

文章出处:【微信号:芋道源码,微信公众号:芋道源码】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    redis分布式场景实现

    今天带大家深入剖析一下Redis分布式,彻底搞懂它。 场景 既然要搞懂Redis分布式,那肯定要有
    的头像 发表于 09-25 17:09 629次阅读

    Redis 分布式的正确实现方式

    分布式般有三种实现方式:1. 数据库乐观;2. 基于Redis的分布式
    的头像 发表于 05-31 14:19 3492次阅读

    Java:Redis分布式的原理和案例

    要介绍分布式,首先要提到与分布式锁相对应的是线程、进程
    的头像 发表于 07-01 11:49 3778次阅读

    分布式的基本原理和案例实现

    前面我们有聊过乐观和悲观实现,均是对于单体架构的场景实现。那么现在我们来总结看下分布式
    的头像 发表于 07-01 14:53 3190次阅读
    <b class='flag-5'>分布式</b><b class='flag-5'>锁</b>的基本原理和案例<b class='flag-5'>实现</b>

    Redis分布式的正确使用方式探讨

    前言 日常开发中,秒杀下单、抢红包等等业务场景,都需要用到分布式。而Redis非常适合作为分布式使用。本文将分七个方案展开,跟大家探讨R
    的头像 发表于 03-30 10:53 1414次阅读
    Redis<b class='flag-5'>分布式</b><b class='flag-5'>锁</b>的正确使用方式<b class='flag-5'>探讨</b>

    Redis分布式有什么特性

    理解为针对某项资源使用权限的管理,它通常用来控制共享资源,比如个进程内有多个线程竞争个数据的使用权限,解决方式之就是加锁。 那分布式
    的头像 发表于 10-12 16:42 2267次阅读

    分布式的设计与实现

    今天跟大家探讨一下分布式的设计与实现。希望对大家有帮助,如果有不正确的地方,欢迎指出,起学习
    的头像 发表于 05-13 15:36 1572次阅读

    用Zookeeper怎么实现分布式

    。但是它仅限于单体项目,也就是说它们只能保证单个JVM应用内线程的顺序执行。 如果你部署了多个节点,也就是分布式场景如何保证不同节点在同时刻只有个线程执行呢?场景的业务场景
    的头像 发表于 05-11 11:02 2105次阅读
    用Zookeeper怎么<b class='flag-5'>实现</b><b class='flag-5'>一</b>个<b class='flag-5'>分布式</b><b class='flag-5'>锁</b>?

    深入理解redis分布式

    系统不同进程共同访问共享资源的实现。如果不同的系统或同个系统的不同主机之间共享了某个临界资源,往往需要互斥来防止彼此干扰,以保证
    的头像 发表于 10-08 14:13 780次阅读
    深入理解redis<b class='flag-5'>分布式</b><b class='flag-5'>锁</b>

    Redis实现分布式的几种方案

    本文将介绍什么是分布式,以及使用Redis实现分布式的几种方案。 前言 了解分布式
    的头像 发表于 10-11 15:19 581次阅读

    什么是分布式 Redis的五种分布式方案

    本地加锁的方式在分布式的场景下不适用,所以本文我们来探讨如何引入分布式解决本地的问题。本篇
    发表于 10-23 11:35 876次阅读
    什么是<b class='flag-5'>分布式</b><b class='flag-5'>锁</b> Redis的五种<b class='flag-5'>分布式</b><b class='flag-5'>锁</b>方案

    redis分布式如何实现

    Redis分布式种基于Redis实现的机制,可以用于多个进程或多台服务器之间对共享资源的并发访问控制。在分布式系统中,由于多个进程或多
    的头像 发表于 11-16 11:29 426次阅读

    redis分布式死锁处理方案

    引言: 随着分布式系统的广泛应用,尤其是在大规模并发操作,对并发控制的需求越来越高。Redis分布式作为种常见的
    的头像 发表于 11-16 11:44 1433次阅读

    如何实现Redis分布式

    机制,下面将详细介绍如何实现Redis分布式、引言 在分布式系统中,多个节点可能同时读写同
    的头像 发表于 12-04 11:24 545次阅读

    分布式的三种实现方式

    分布式的三种实现方式  分布式是在分布式系统中用于实现
    的头像 发表于 12-28 10:01 703次阅读