Redis Cluster slots 迁移过程

2023-12-04 10:48

本文主要是介绍Redis Cluster slots 迁移过程,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

一、Redis Cluster 背景知识

Redis Cluster是无中心化的架构,他没有集中化的控制组件和proxy,客户端可以向集群中的任意一台节点发送请求,然后根据节点的返回值做重定向(MOVE或ASK)操作,客户端本地也会缓存slot表,并根据每次的重定向信息来更新这个表。

在这里插入图片描述

由于没有中心化组件存储,因此redis cluster使用gossip在集群间同步路由表和集群拓扑信息,在经过一段时间后,理想情况下及群众给每个节点都掌握了整个集群的路由信息

二、slot迁移过程

将一个Redis节点上指定的slot下的所有key迁移到其他redis节点上,需要两步:
1、先获取这个slot下所有的key
2、对每个key发送迁移命令

Redis cluster直接使用migrate命令进行key的迁移,这个命令是同步阻塞的,redis是单线程的,当migrate过程耗时太久(比如网络慢、迁移bigkey)时,会导致主线程无法处理用户请求。

2.1、slot迁移的难点

1、如使用同步阻塞的方式,bigkey或网络慢,会阻塞主线程正常服务
2、对bigkey迁移需要特殊处理,否则bigkey的序列号、发送、反序列号时,都可能导致源redis实例和目标redis实例主线程阻塞。
3、单个key的迁移过程需要保证原子性,即要么一个key全部迁移成功,要么全部迁移失败,不能存在中间状态
4、对迁移中slot的读写出出力,即一个slot如果正处于迁移过程中,其中的key(已经迁移走、迁移中、或等待迁移)是否可以被正常读写。

2.2、Redis Cluster的slot迁移实现

2.2.1、slot分配

redis-cluster为了支持slot迁移,改造引擎加入了key和slot的映射关系。Redis-cluster使用rax树来维护key和slot的映射关系。因此在新建集群、集群扩缩容的时候,都会涉及到slot分配、删除等操作,这些操作通过以下命令实现:

  • cluster addslots [slot …] 将一个或多个槽(slot)指派(assign)给当前节点。
  • cluster delslots [slot …] 移除一个或多个槽对当前节点的指派。
  • cluster flushslots 移除指派给当前节点的所有槽,让当前节点变成一个没有指派任何槽的节点。
  • cluster setslot node <node_id> 将槽 slot 指派给 node_id 指定的节点,如果槽已经指派给另一个节点,那么先让另一个节点删除该槽>,然后再进行指派。

2.2.2、key-slot操作

一旦key和slot的映射关系建立好,就可以执行key相关的slot命令,redis-cluster提供了以下命令:

  • cluster slot 计算键 key 应该被放置在哪个槽上。
  • cluster countkeysinslot 返回槽 slot 目前包含的键值对数量。
  • cluster getkeysinslot 返回 count 个 slot 槽中的键。

2.2.3、slot的迁移流程

  • 对目标节点发送 cluster setslot importing 命令,让目标节点准备导入槽的数据。
  • 对源节点发送 cluster setslot migrating 命令,让源节点准备迁出槽的数据。
  • 源节点循环执行 cluster getkeysinslot 命令,获取count个属于槽slot的键。
  • 在源节点上执行 migrate “” 0 keys <keys…> 命令,把获取的键通过流水线(pipeline)机制批量迁移到目标节点。
  • 重复执行步骤3和步骤4直到槽下所有的键值数据迁移到目标节点。
  • 向集群内所有主节点发送cluster setslot node 命令,通知槽分配给目标节点。为了保证槽节点映射变更及时传播,需要遍历发送给所有主节点更新被迁移的槽指向新节点。

2.4、key迁移的原子性

由于migrate命令是同步阻塞的(同步发送同步接收),迁移过程中会阻塞该引擎上的所有key的读写,只有在迁移响应成功之后,才会将本地的key删除,因此在redis cluster中迁移是原子的。

2.5、迁移过程中的读写冲突

因为migrate命令是同步阻塞的,因此不会存在一个key正在被迁移又同时被读写的情况,但由于一个slot下可能有部分key被迁移完成,部分key正在等待迁移的情况,因此如果读写的key所属的slot正在被迁移,redis-cluster做如下处理:

  • 客户端根据本地slots缓存发送命令到源节点,如果存在键对象则直接指向并返回结果给客户端。
  • 如果key对象不存在,但key所在的slot属于本节点,则可能存在于目标节点,这时源节点会回复ASK重定向异常。例如如:error)ASK :。
  • 客户端从ASK重定向异常提取出目标节点的信息,发送asking命令到目标节点打开客户端连接标识,再执行key命令。如果存在则执行,不存在则返回不存在信息。
  • 如果key所在的slot不属于本节点,则返回MOVE重定向。格式如下:(error)ASK :。
  • 客户端从ASK重定向异常提取出目标节点信息,发送asking命令到目标节点打开客户端连接标识,再执行键命令。如果存在则执行,不存在则返回不存在信息
  • 如果key所在的slot不属于本节点,则返回MOVE重定向。格式如下:(error)MOVED :。

这篇关于Redis Cluster slots 迁移过程的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/453192

相关文章

SpringBoot 整合 Grizzly的过程

《SpringBoot整合Grizzly的过程》Grizzly是一个高性能的、异步的、非阻塞的HTTP服务器框架,它可以与SpringBoot一起提供比传统的Tomcat或Jet... 目录为什么选择 Grizzly?Spring Boot + Grizzly 整合的优势添加依赖自定义 Grizzly 作为

Redis主从/哨兵机制原理分析

《Redis主从/哨兵机制原理分析》本文介绍了Redis的主从复制和哨兵机制,主从复制实现了数据的热备份和负载均衡,而哨兵机制可以监控Redis集群,实现自动故障转移,哨兵机制通过监控、下线、选举和故... 目录一、主从复制1.1 什么是主从复制1.2 主从复制的作用1.3 主从复制原理1.3.1 全量复制

Redis延迟队列的实现示例

《Redis延迟队列的实现示例》Redis延迟队列是一种使用Redis实现的消息队列,本文主要介绍了Redis延迟队列的实现示例,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习... 目录一、什么是 Redis 延迟队列二、实现原理三、Java 代码示例四、注意事项五、使用 Redi

Redis缓存问题与缓存更新机制详解

《Redis缓存问题与缓存更新机制详解》本文主要介绍了缓存问题及其解决方案,包括缓存穿透、缓存击穿、缓存雪崩等问题的成因以及相应的预防和解决方法,同时,还详细探讨了缓存更新机制,包括不同情况下的缓存更... 目录一、缓存问题1.1 缓存穿透1.1.1 问题来源1.1.2 解决方案1.2 缓存击穿1.2.1

redis-cli命令行工具的使用小结

《redis-cli命令行工具的使用小结》redis-cli是Redis的命令行客户端,支持多种参数用于连接、操作和管理Redis数据库,本文给大家介绍redis-cli命令行工具的使用小结,感兴趣的... 目录基本连接参数基本连接方式连接远程服务器带密码连接操作与格式参数-r参数重复执行命令-i参数指定命

深入理解Redis大key的危害及解决方案

《深入理解Redis大key的危害及解决方案》本文主要介绍了深入理解Redis大key的危害及解决方案,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着... 目录一、背景二、什么是大key三、大key评价标准四、大key 产生的原因与场景五、大key影响与危

mysql-8.0.30压缩包版安装和配置MySQL环境过程

《mysql-8.0.30压缩包版安装和配置MySQL环境过程》该文章介绍了如何在Windows系统中下载、安装和配置MySQL数据库,包括下载地址、解压文件、创建和配置my.ini文件、设置环境变量... 目录压缩包安装配置下载配置环境变量下载和初始化总结压缩包安装配置下载下载地址:https://d

Redis主从复制的原理分析

《Redis主从复制的原理分析》Redis主从复制通过将数据镜像到多个从节点,实现高可用性和扩展性,主从复制包括初次全量同步和增量同步两个阶段,为优化复制性能,可以采用AOF持久化、调整复制超时时间、... 目录Redis主从复制的原理主从复制概述配置主从复制数据同步过程复制一致性与延迟故障转移机制监控与维

Redis过期键删除策略解读

《Redis过期键删除策略解读》Redis通过惰性删除策略和定期删除策略来管理过期键,惰性删除策略在键被访问时检查是否过期并删除,节省CPU开销但可能导致过期键滞留,定期删除策略定期扫描并删除过期键,... 目录1.Redis使用两种不同的策略来删除过期键,分别是惰性删除策略和定期删除策略1.1惰性删除策略

Linux(Centos7)安装Mysql/Redis/MinIO方式

《Linux(Centos7)安装Mysql/Redis/MinIO方式》文章总结:介绍了如何安装MySQL和Redis,以及如何配置它们为开机自启,还详细讲解了如何安装MinIO,包括配置Syste... 目录安装mysql安装Redis安装MinIO总结安装Mysql安装Redis搜索Red