软件架构场景之—— 数据一致性:下游服务失败上游服务如何独善其身?

本文主要是介绍软件架构场景之—— 数据一致性:下游服务失败上游服务如何独善其身?,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

业务场景

使用微服务时,很多时候我们往往需要跨多个服务去更新多个数据库的数据,类似下图所示的架构

如图所示,如果业务正常运转,3 个服务的数据应该变为 a2、b2、c2,此时数据才一致。但是如果出现网络抖动、服务超负荷或者数据库超负荷等情况,整个处理链条有可能在步骤二失败,这时数据就会变成 a2、b1、c1,当然也有可能在步骤三失败,最终数据就会变成 a2、b2、c1,这样数据就对不上了,即数据不一致

为了针对数据一致性问题给出一个完美解决方案,把数据一致性的问题归类为以下 2 种场景

第一种场景:实时数据不一致不要紧,保证数据最终一致性就行

因为一些服务出现错误,导致图 1 的步骤三失败,此时处理完请求后,数据就变成了 a2、 b2、c1,不过不要紧,我们只需保证最终数据是 a2、b2、 c2 就行

业务场景:零售下单时,一般需要实现在商品服务中扣除商品的库存、在订单服务中生成一个订单、在交易服务中生成一个交易单这三个步骤。 假设交易单生成失败,就会出现库存扣除了、订单生成了、交易单没生成的情况,此时我们只需保证最终交易单成功生成就行,这就是最终一致性

第二种场景:必须保证实时一致性

如果图 1 中的步骤二和步骤三成功了,数据就会变成 b2、c2,但是如果步骤三失败,那么步骤一和步骤二会立即回滚,保证数据变回 a1、b1

业务场景:使用积分换折扣券时,需要实现扣除用户积分、生成一张折扣券给用户这 2 个步骤。如果我们还是使用最终一致性方案的话,有可能出现用户积分扣除了而折扣券还未生成的情况,此时用户进入账户一看,积分没了也没有折扣券,立马就会投诉,此时怎么办呢?我们直接将前面的步骤回滚,并告知用户处理失败请继续重试就行,这就是实时一致性

 

最终一致性方案

对于数据要求最终一致性的场景,实现思路是这样的

  1. 每个步骤完成后,生产一条消息给 MQ,告知下一步处理接下来的数据;
  2. 消费者收到这条消息后,将数据处理完成后,与步骤一一样触发下一步;
  3. 消费者收到这条消息后,如果数据处理失败,这条消息应该保留,直到消费者下次重试

为了方便理解这部分内容,梳理了一个大概的流程图,如下图所示

详细的实现逻辑如下(类似于用责任链模式实现)

  1. 调用端调用 Service A;
  2. Service A 将数据库中的 a1 改为 a2;
  3. Service A 生成一条步骤 2(姑且命名为 Step2)的消息给到 MQ;
  4. Service A 返回成功给调用端;
  5. Service B 监听 Step2 的消息,拿到一条消息
  6. Service B 将数据库中的 b1 改为 b2;
  7. Service B 生成一条步骤 3(姑且命名为 Step3)的消息给到 MQ;
  8. Service B 将 Step2 的消息设置为已消费;
  9. Service C 监听 Step3 的消息,拿到一条消息;
  10. Service C 将数据库中的 c1 改为 c2;
  11. Service C 将 Step3 的消息设置为已消费

接下来考虑下,如果每个步骤失败了该怎么办?

1. 调用端调用 Service A

解决方案:如果这步失败,直接返回失败给用户,用户数据不受影响

2. Service A 将数据库中的 a1 改为 a2

解决方案:如果这步失败,利用本地事务数据直接回滚就行,用户数据不受影响

3. Service A 生成一条步骤 2(姑且命名为 Step2)的消息给到 MQ

解决方案:如果这步失败,利用本地事务数据将步骤 2 直接回滚就行,用户数据不受影响

4. Service A 返回成功给调用端

解决方案:如果这步失败,不做处理

5. Service B 监听 Step2 的消息,拿到一条消息

解决方案:如果这步失败,MQ 有对应机制,我们无须担心

6. Service B 将数据库中的 b1 改为 b2

解决方案:如果这步失败,利用本地事务直接将数据回滚,再利用消息重试的特性重新回到步骤 5 

7. Service B 生成一条步骤 3(姑且命名为 Step3)的消息给到 MQ

解决方案:如果这步失败,MQ 有生产消息失败重试机制。要是出现极端情况,服务器会直接挂掉,因为 Step2 的消息还没消费,MQ 会有重试机制,然后找另一个消费者重新从步骤 5 执行

8. Service B 将 Step2 的消息设置为已消费

解决方案:如果这步失败,MQ 会有重试机制,找另一个消费者重新从步骤 5 执行

9. Service C 监听 Step3 的消息,拿到一条消息

解决方案:如果这步失败,参考步骤 5 的解决方案

10. Service C 将数据库中的 c1 改为 c2

解决方案:如果这步失败,参考步骤 6 的解决方案

11. Service C 将 Step3 的消息设置为已消费

解决方案:如果这步失败,参考步骤 8 的解决方案

 

实时一致性方案

实时一致性,其实就是我们常说的分布式事务

MySQL 其实有一个两阶段提交的分布式事务方案(MySQL XA),但是该方案存在严重的性能问题。比如,一个数据库的事务与多个数据库间的 XA 事务性能可能相差 10 倍。另外,在 XA 的事务处理过程中它会长期占用锁资源,所以一开始我们并不考虑这个方案

 

TCC 模式

在 TCC 模式中,我们会把原来的一个接口分为 Try 接口、Confirm 接口、Cancel 接口

  • Try 接口用来检查数据、预留业务资源
  • Confirm 接口用来确认实际业务操作、更新业务资源
  • Cancel 接口是指释放 Try 接口中预留的资源

比如积分兑换折扣券的例子中需要调用账户服务减积分、营销服务加折扣券这两个服务,那么针对账户服务减积分这个接口,我们需要写 3 个方法,如下代码所示

public boolean prepareMinus(BusinessActionContext businessActionContext, final String accountNo, final double amount) {    //校验账户积分余额    //冻结积分金额
}
public boolean Confirm(BusinessActionContext businessActionContext) {    //扣除账户积分余额    //释放账户 冻结积分金额
}
public boolean Cancel(BusinessActionContext businessActionContext) {    //回滚所有数据变更
}

同样,针对营销服务加折扣券这个接口,也需要写3个方法,而后调用的大体步骤如下

图中绿色代表成功的调用路径,如果中间出错,就会先调用相关服务的回退方法,再进行手工回退。原本只需要在每个服务中写一段业务代码就行,现在需要拆成 3 段来写,而且还涉及以下 5 点注意事项

  1. 我们需要保证每个服务的 Try 方法执行成功后,Confirm 方法在业务逻辑上能够执行成功;
  2. 可能会出现 Try 方法执行失败而 Cancel 被触发的情况,此时我们需要保证正确回滚;
  3. 可能因为网络拥堵出现 Try 方法的调用被堵塞的情况,此时事务控制器判断 Try 失败并触发了 Cancel 方法,后来 Try 方法的调用请求到了服务这里,此时我们应该拒绝 Try 请求逻辑;
  4. 所有的 Try、Confirm、Cancel 都需要确保幂等性;
  5. 整个事务期间的数据库数据处于一个临时的状态,其他请求需要访问这些数据时,我们需要考虑如何正确被其他请求使用,而这种使用包括读取和并发的修改

TCC 模式是一个很麻烦的方案,除了每个业务代码的工作量 X3 之外,出错的概率也高,因为需要通过相应逻辑保证上面的注意事项都被处理

 

Seata 中 AT 模式的自动回滚

对于使用 Seata 的人来说操作比较简单,只需要在触发整个事务的业务发起方的方法中加入@GlobalTransactional 标注,且使用普通的 @Transactional 包装好分布式事务中相关服务的相关方法即可

在 Seata 内在机制中,AT 模式的自动回滚往往需要执行以下步骤

一阶段

  1. 解析每个服务方法执行的 SQL,记录 SQL 的类型(Update、Insert 或 Delete),修改表并更新 SQL 条件等信息;
  2. 根据前面的条件信息生成查询语句,并记录修改前的数据镜像;
  3. 执行业务的 SQL;
  4. 记录修改后的数据镜像;
  5. 插入回滚日志:把前后镜像数据及业务 SQL 相关的信息组成一条回滚日志记录,插入 UNDO_LOG 表中;
  6. 提交前,向 TC 注册分支,并申请相关修改数据行的全局锁 ;
  7. 本地事务提交:业务数据的更新与前面步骤生成的 UNDO LOG 一并提交;
  8. 将本地事务提交的结果上报给事务控制器

二阶段-回滚

收到事务控制器的分支回滚请求后,会开启一个本地事务,并执行如下操作

  1. 查找相应的 UNDO LOG 记录;
  2. 数据校验:拿 UNDO LOG 中的后镜像数据与当前数据进行对比,如果存在不同,说明数据被当前全局事务之外的动作做了修改,此时我们需要根据配置策略进行处理;
  3. 根据 UNDO LOG 中的前镜像和业务 SQL 的相关信息生成回滚语句并执行;
  4. 提交本地事务,并把本地事务的执行结果(即分支事务回滚的结果)上报事务控制器

二阶段-提交

  1. 收到事务控制器的分支提交请求后,我们会将请求放入一个异步任务队列中,并马上返回提交成功的结果给事务控制器
  2. 异步任务阶段的分支提交请求将异步地、批量地删除相应 UNDO LOG 记录

这篇关于软件架构场景之—— 数据一致性:下游服务失败上游服务如何独善其身?的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/335078

相关文章

Python在二进制文件中进行数据搜索的实战指南

《Python在二进制文件中进行数据搜索的实战指南》在二进制文件中搜索特定数据是编程中常见的任务,尤其在日志分析、程序调试和二进制数据处理中尤为重要,下面我们就来看看如何使用Python实现这一功能吧... 目录简介1. 二进制文件搜索概述2. python二进制模式文件读取(rb)2.1 二进制模式与文本

SQL Server 中的表进行行转列场景示例

《SQLServer中的表进行行转列场景示例》本文详细介绍了SQLServer行转列(Pivot)的三种常用写法,包括固定列名、条件聚合和动态列名,文章还提供了实际示例、动态列数处理、性能优化建议... 目录一、常见场景示例二、写法 1:PIVOT(固定列名)三、写法 2:条件聚合(CASE WHEN)四、

C#实现将XML数据自动化地写入Excel文件

《C#实现将XML数据自动化地写入Excel文件》在现代企业级应用中,数据处理与报表生成是核心环节,本文将深入探讨如何利用C#和一款优秀的库,将XML数据自动化地写入Excel文件,有需要的小伙伴可以... 目录理解XML数据结构与Excel的对应关系引入高效工具:使用Spire.XLS for .NETC

Java中的CompletableFuture核心用法和常见场景

《Java中的CompletableFuture核心用法和常见场景》CompletableFuture是Java8引入的强大的异步编程工具,支持链式异步编程、组合、异常处理和回调,介绍其核心用法,通过... 目录1、引言2. 基本概念3. 创建 CompletableFuture3.1. 手动创建3.2.

Springboot请求和响应相关注解及使用场景分析

《Springboot请求和响应相关注解及使用场景分析》本文介绍了SpringBoot中用于处理HTTP请求和构建HTTP响应的常用注解,包括@RequestMapping、@RequestParam... 目录1. 请求处理注解@RequestMapping@GetMapping, @PostMappin

MySQL数据目录迁移的完整过程

《MySQL数据目录迁移的完整过程》文章详细介绍了将MySQL数据目录迁移到新硬盘的整个过程,包括新硬盘挂载、创建新的数据目录、迁移数据(推荐使用两遍rsync方案)、修改MySQL配置文件和重启验证... 目录1,新硬盘挂载(如果有的话)2,创建新的 mysql 数据目录3,迁移 MySQL 数据(推荐两

Python数据验证神器Pydantic库的使用和实践中的避坑指南

《Python数据验证神器Pydantic库的使用和实践中的避坑指南》Pydantic是一个用于数据验证和设置的库,可以显著简化API接口开发,文章通过一个实际案例,展示了Pydantic如何在生产环... 目录1️⃣ 崩溃时刻:当你的API接口又双叒崩了!2️⃣ 神兵天降:3行代码解决验证难题3️⃣ 深度

Python实现快速扫描目标主机的开放端口和服务

《Python实现快速扫描目标主机的开放端口和服务》这篇文章主要为大家详细介绍了如何使用Python编写一个功能强大的端口扫描器脚本,实现快速扫描目标主机的开放端口和服务,感兴趣的小伙伴可以了解下... 目录功能介绍场景应用1. 网络安全审计2. 系统管理维护3. 网络故障排查4. 合规性检查报错处理1.

MySQL快速复制一张表的四种核心方法(包括表结构和数据)

《MySQL快速复制一张表的四种核心方法(包括表结构和数据)》本文详细介绍了四种复制MySQL表(结构+数据)的方法,并对每种方法进行了对比分析,适用于不同场景和数据量的复制需求,特别是针对超大表(1... 目录一、mysql 复制表(结构+数据)的 4 种核心方法(面试结构化回答)方法 1:CREATE

详解C++ 存储二进制数据容器的几种方法

《详解C++存储二进制数据容器的几种方法》本文主要介绍了详解C++存储二进制数据容器,包括std::vector、std::array、std::string、std::bitset和std::ve... 目录1.std::vector<uint8_t>(最常用)特点:适用场景:示例:2.std::arra