0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

在高并发下怎么保证接口的幂等性?

数据分析与开发 来源:苏三说技术 作者:苏三说技术 2021-05-14 10:23 次阅读

前言

接口幂等性问题,对于开发人员来说,是一个跟语言无关的公共问题。本文分享了一些解决这类问题非常实用的办法,绝大部分内容我在项目中实践过的,给有需要的小伙伴一个参考。

不知道你有没有遇到过这些场景:

有时我们在填写某些form表单时,保存按钮不小心快速点了两次,表中竟然产生了两条重复的数据,只是id不一样。

我们在项目中为了解决接口超时问题,通常会引入了重试机制。第一次请求接口超时了,请求方没能及时获取返回结果(此时有可能已经成功了),为了避免返回错误的结果(这种情况不可能直接返回失败吧?),于是会对该请求重试几次,这样也会产生重复的数据。

mq消费者在读取消息时,有时候会读取到重复消息(至于什么原因这里先不说,有兴趣的小伙伴,可以找我私聊),如果处理不好,也会产生重复的数据。

没错,这些都是幂等性问题。

接口幂等性是指用户对于同一操作发起的一次请求或者多次请求的结果是一致的,不会因为多次点击而产生了副作用。

这类问题多发于接口的:

insert操作,这种情况下多次请求,可能会产生重复数据。

update操作,如果只是单纯的更新数据,比如:update user set status=1 where id=1,是没有问题的。如果还有计算,比如:update user set status=status+1 where id=1,这种情况下多次请求,可能会导致数据错误。

那么我们要如何保证接口幂等性?本文将会告诉你答案。

1. insert前先select

通常情况下,在保存数据的接口中,我们为了防止产生重复数据,一般会在insert前,先根据name或code字段select一下数据。如果该数据已存在,则执行update操作,如果不存在,才执行 insert操作。

d321e26e-b454-11eb-bf61-12bb97331649.png

该方案可能是我们平时在防止产生重复数据时,使用最多的方案。但是该方案不适用于并发场景,在并发场景中,要配合其他方案一起使用,否则同样会产生重复数据。我在这里提一下,是为了避免大家踩坑。

2. 加悲观锁

在支付场景中,用户A的账号余额有150元,想转出100元,正常情况下用户A的余额只剩50元。一般情况下,sql是这样的:

update user amount = amount-100 where id=123;

如果出现多次相同的请求,可能会导致用户A的余额变成负数。这种情况,用户A来可能要哭了。于此同时,系统开发人员可能也要哭了,因为这是很严重的系统bug。

为了解决这个问题,可以加悲观锁,将用户A的那行数据锁住,在同一时刻只允许一个请求获得锁,更新数据,其他的请求则等待。

通常情况下通过如下sql锁住单行数据:

select * from user id=123 for update;

具体流程如下:

d33da396-b454-11eb-bf61-12bb97331649.png

具体步骤:

多个请求同时根据id查询用户信息

判断余额是否不足100,如果余额不足,则直接返回余额不足。

如果余额充足,则通过for update再次查询用户信息,并且尝试获取锁。

只有第一个请求能获取到行锁,其余没有获取锁的请求,则等待下一次获取锁的机会。

第一个请求获取到锁之后,判断余额是否不足100,如果余额足够,则进行update操作。

如果余额不足,说明是重复请求,则直接返回成功。

需要特别注意的是:如果使用的是mysql数据库,存储引擎必须用innodb,因为它才支持事务。此外,这里id字段一定要是主键或者唯一索引,不然会锁住整张表。

悲观锁需要在同一个事务操作过程中锁住一行数据,如果事务耗时比较长,会造成大量的请求等待,影响接口性能。 此外,每次请求接口很难保证都有相同的返回值,所以不适合幂等性设计场景,但是在防重场景中是可以的使用的。 在这里顺便说一下,防重设计和幂等设计,其实是有区别的。防重设计主要为了避免产生重复数据,对接口返回没有太多要求。而幂等设计除了避免产生重复数据之外,还要求每次请求都返回一样的结果。

3. 加乐观锁

既然悲观锁有性能问题,为了提升接口性能,我们可以使用乐观锁。需要在表中增加一个timestamp或者version字段,这里以version字段为例。

在更新数据之前先查询一下数据:

select id,amount,version from user id=123;

如果数据存在,假设查到的version等于1,再使用id和version字段作为查询条件更新数据:

update user set amount=amount+100,version=version+1where id=123 and version=1;

更新数据的同时version+1,然后判断本次update操作的影响行数,如果大于0,则说明本次更新成功,如果等于0,则说明本次更新没有让数据变更。

由于第一次请求version等于1是可以成功的,操作成功后version变成2了。这时如果并发的请求过来,再执行相同的sql:

update user setamount=amount+100,version=version+1where id=123 and version=1;

该update操作不会真正更新数据,最终sql的执行结果影响行数是0,因为version已经变成2了,where中的version=1肯定无法满足条件。但为了保证接口幂等性,接口可以直接返回成功,因为version值已经修改了,那么前面必定已经成功过一次,后面都是重复的请求。

具体流程如下:

d3b2895e-b454-11eb-bf61-12bb97331649.png

具体步骤:

先根据id查询用户信息,包含version字段

根据id和version字段值作为where条件的参数,更新用户信息,同时version+1

判断操作影响行数,如果影响1行,则说明是一次请求,可以做其他数据操作。

如果影响0行,说明是重复请求,则直接返回成功。

4. 加唯一索引

绝大数情况下,为了防止重复数据的产生,我们都会在表中加唯一索引,这是一个非常简单,并且有效的方案。

alter table `order` add UNIQUE KEY `un_code` (`code`);

加了唯一索引之后,第一次请求数据可以插入成功。但后面的相同请求,插入数据时会报Duplicate entry '002' for key 'order.un_code异常,表示唯一索引有冲突。

虽说抛异常对数据来说没有影响,不会造成错误数据。但是为了保证接口幂等性,我们需要对该异常进行捕获,然后返回成功。

如果是java程序需要捕获:DuplicateKeyException异常,如果使用了spring框架还需要捕获:MySQLIntegrityConstraintViolationException异常。

具体流程图如下:

d3c0ca0a-b454-11eb-bf61-12bb97331649.png

具体步骤:

用户通过浏览器发起请求,服务端收集数据。

将该数据插入mysql

判断是否执行成功,如果成功,则操作其他数据(可能还有其他的业务逻辑)。

如果执行失败,捕获唯一索引冲突异常,直接返回成功。

5. 建防重表

有时候表中并非所有的场景都不允许产生重复的数据,只有某些特定场景才不允许。这时候,直接在表中加唯一索引,显然是不太合适的。

针对这种情况,我们可以通过建防重表来解决问题。

该表可以只包含两个字段:id 和 唯一索引,唯一索引可以是多个字段比如:name、code等组合起来的唯一标识,例如:susan_0001。

具体流程图如下:

d3cc0b22-b454-11eb-bf61-12bb97331649.png

具体步骤:

用户通过浏览器发起请求,服务端收集数据。

将该数据插入mysql防重表

判断是否执行成功,如果成功,则做mysql其他的数据操作(可能还有其他的业务逻辑)。

如果执行失败,捕获唯一索引冲突异常,直接返回成功。

需要特别注意的是:防重表和业务表必须在同一个数据库中,并且操作要在同一个事务中。

6. 根据状态机

很多时候业务表是有状态的,比如订单表中有:1-下单、2-已支付、3-完成、4-撤销等状态。如果这些状态的值是有规律的,按照业务节点正好是从小到大,我们就能通过它来保证接口的幂等性。

假如id=123的订单状态是已支付,现在要变成完成状态。

update `order` set status=3 where id=123 and status=2;

第一次请求时,该订单的状态是已支付,值是2,所以该update语句可以正常更新数据,sql执行结果的影响行数是1,订单状态变成了3。

后面有相同的请求过来,再执行相同的sql时,由于订单状态变成了3,再用status=2作为条件,无法查询出需要更新的数据,所以最终sql执行结果的影响行数是0,即不会真正的更新数据。但为了保证接口幂等性,影响行数是0时,接口也可以直接返回成功。

具体流程图如下:

d3d63dae-b454-11eb-bf61-12bb97331649.png

具体步骤:

用户通过浏览器发起请求,服务端收集数据。

根据id和当前状态作为条件,更新成下一个状态

判断操作影响行数,如果影响了1行,说明当前操作成功,可以进行其他数据操作。

如果影响了0行,说明是重复请求,直接返回成功。

主要特别注意的是,该方案仅限于要更新的表有状态字段,并且刚好要更新状态字段的这种特殊情况,并非所有场景都适用。

7. 加分布式锁

其实前面介绍过的加唯一索引或者加防重表,本质是使用了数据库的分布式锁,也属于分布式锁的一种。但由于数据库分布式锁的性能不太好,我们可以改用:redis或zookeeper。

鉴于现在很多公司分布式配置中心改用apollo或nacos,已经很少用zookeeper了,我们以redis为例介绍分布式锁。

目前主要有三种方式实现redis的分布式锁:

setNx命令

set命令

Redission框架

每种方案各有利弊,具体实现细节我就不说了,有兴趣的朋友可以加我微信找我私聊。

具体流程图如下:

d3e1dcf4-b454-11eb-bf61-12bb97331649.png

具体步骤:

用户通过浏览器发起请求,服务端会收集数据,并且生成订单号code作为唯一业务字段。

使用redis的set命令,将该订单code设置到redis中,同时设置超时时间。

判断是否设置成功,如果设置成功,说明是第一次请求,则进行数据操作。

如果设置失败,说明是重复请求,则直接返回成功。

需要特别注意的是:分布式锁一定要设置一个合理的过期时间,如果设置过短,无法有效的防止重复请求。如果设置过长,可能会浪费redis的存储空间,需要根据实际业务情况而定。

8. 获取token

除了上述方案之外,还有最后一种使用token的方案。该方案跟之前的所有方案都有点不一样,需要两次请求才能完成一次业务操作。

第一次请求获取token

第二次请求带着这个token,完成业务操作。

具体流程图如下:

第一步,先获取token。

d4066358-b454-11eb-bf61-12bb97331649.png

第二步,做具体业务操作。

d413fbee-b454-11eb-bf61-12bb97331649.png

具体步骤:

用户访问页面时,浏览器自动发起获取token请求。

服务端生成token,保存到redis中,然后返回给浏览器。

用户通过浏览器发起请求时,携带该token。

在redis中查询该token是否存在,如果不存在,说明是第一次请求,做则后续的数据操作。

如果存在,说明是重复请求,则直接返回成功。

在redis中token会在过期时间之后,被自动删除。

以上方案是针对幂等设计的。

如果是防重设计,流程图要改改:

d41fb092-b454-11eb-bf61-12bb97331649.png

需要特别注意的是:token必须是全局唯一的。

编辑:jq

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 数据
    +关注

    关注

    8

    文章

    7016

    浏览量

    89005
  • MySQL
    +关注

    关注

    1

    文章

    809

    浏览量

    26555

原文标题:高并发下如何保证接口的幂等性?

文章出处:【微信号:DBDevs,微信公众号:数据分析与开发】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    ADS1299如何保证数据真实

    %时,调整为6倍增益。 后面的AD转换是接近实时的转换,调整增益时,如何保障记录到的调整数据接近真实的连接,即保证数据真实
    发表于 11-26 06:16

    如何保证备自投装置可靠和稳定性

    备用电源自动投入装置(简称备自投)是一种保证配电系统可靠、连续供电的安全设备,因此它的可靠和稳定性直接决定了系统的供电质量,那么该如何保证备自投装置的可靠和稳定性呢?今天从专业的角
    的头像 发表于 10-17 17:44 217次阅读
    如何<b class='flag-5'>保证</b>备自投装置可靠<b class='flag-5'>性</b>和稳定性

    测试聊并发-入门篇

    服务端接口的性能测试中,我们面临的挑战不仅仅是处理单个请求的效率,更在于如何在多用户同时访问时保持系统的稳定性和响应速度。并发编程和测试,作为性能测试的核心,对于评估系统负载情况下
    的头像 发表于 10-15 15:23 194次阅读
    测试聊<b class='flag-5'>并发</b>-入门篇

    全双工多路并发、低延时数传解决行业信号拥堵问题

    SA618F30-FD全双工透传允许最多8个设备同时与主控制系统进行数据交互,而不造成信道冲突和延时。这对于智能电网、智能停车场、智能交通需要实时传输大量数据的场景尤为重要。例如,智能电网中的多个监测设备需要实时将采集的数据上传至主控系统,全双工
    的头像 发表于 09-19 16:34 532次阅读
    全双工多路<b class='flag-5'>并发</b>、低延时数传解决行业信号拥堵问题

    并发物联网云平台是什么

    并发物联网云平台是一种能够处理大量设备同时连接并进行数据交换的云计算平台。这种平台通常被设计用来应对来自数以万计甚至数十亿计的物联网设备的并发请求,保证系统的稳定性和响应速度。 首先
    的头像 发表于 08-13 13:50 252次阅读

    并发系统的艺术:如何在流量洪峰中游刃有余

    尤为重要。用户对在线服务的需求和期望不断提高,系统的并发处理能力成为衡量其性能和用户体验的关键指标之一。并发系统不仅仅是大型互联网企业的专利,对于任何希望市场中占据一席之地的公司来
    的头像 发表于 08-05 13:43 286次阅读
    <b class='flag-5'>高</b><b class='flag-5'>并发</b>系统的艺术:如何在流量洪峰中游刃有余

    接口测试的概念和重点是什么?

    是确保这些交互按照设计和规范进行,从而保证整个系统的稳定性和可靠接口测试主要关注以下几个方面: 功能:验证接口是否能够按照预期执行其
    的头像 发表于 05-30 15:08 713次阅读

    FPGA的高速接口应用注意事项

    、LVDS高速接口,FPGA需要实现相应的关键技术以支持数据传输。 布线与布局 : 时钟信号布线:FPGA和高速DAC的时钟信号必须保证正常传输和同步,避免布线过长,注意信号阻抗匹配。 信号布局:
    发表于 05-27 16:02

    论RISC-V的MCU中UART接口的重要

    和接收数据。RISC-V的MCU中,UART接口可用于连接各种外部设备,如传感器、打印机、扫描仪、存储设备,实现数据的交互和传输。 实时和高效
    发表于 05-27 15:52

    光谱遥感植物多样研究中的应用进展与趋势

    数据,监测陆地生态系统变化的最有力手段,可以直接提供植被、地形、气候数据进行后期分析,保证了变量间的观测尺度平衡。目前,光谱遥感已经广泛应用于大尺度的生境制图、植物功能和谱系多样反演
    的头像 发表于 04-08 15:32 740次阅读
    <b class='flag-5'>高</b>光谱遥感<b class='flag-5'>在</b>植物多样<b class='flag-5'>性</b>研究中的应用进展与趋势

    鸿蒙原生应用开发-ArkTS语言基础类库多线程并发概述

    的SharedArrayBuffer对象可以指向同一块内存,进而达到内存共享的目的。 SharedArrayBuffer对象存储的数据同时被修改时,需要通过原子操作保证其同步,即下个操作开始之前务必需要等到上个操作已经结束
    发表于 03-28 14:35

    鸿蒙原生应用开发-ArkTS语言基础类库多线程并发概述

    的SharedArrayBuffer对象可以指向同一块内存,进而达到内存共享的目的。 SharedArrayBuffer对象存储的数据同时被修改时,需要通过原子操作保证其同步,即下个操作开始之前务必需要等到上个操作已经结束
    发表于 03-22 15:40

    探索LabVIEW编程接口原理与实践

    原来是数学上的概念,在编程领域可以理解为:多次请求某一个资源或执行某一个操作时应该具有唯一同样结果,也就是说,其任意多次执行对资源
    的头像 发表于 02-29 10:24 612次阅读
    探索LabVIEW编程<b class='flag-5'>接口</b><b class='flag-5'>幂</b><b class='flag-5'>等</b><b class='flag-5'>性</b>原理与实践

    为什么要实现校验 如何实现接口校验

    前端重复提交表单:填写一些表格时候,用户填写完成提交,很多时候会因网络波动没有及时对用户做出提交成功响应,致使用户认为没有成功提交,然后一直点提交按钮,这时就会发生重复提交表单请求。
    的头像 发表于 02-20 14:14 1197次阅读

    RocketMQ中各类重复消费的原理浅析

    利用消息中间件,如何保证MQ消费消息的?所谓知其然,才能知其所以然,本文将通过RocketMQ作为例子,来扒一扒什么情况下会导致重复消费。
    的头像 发表于 01-08 09:29 1170次阅读
    RocketMQ中各类重复消费的原理浅析