Redis Cluster slots 迁移过程

2023-12-04 10:48

本文主要是介绍Redis Cluster slots 迁移过程,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

一、Redis Cluster 背景知识

Redis Cluster是无中心化的架构,他没有集中化的控制组件和proxy,客户端可以向集群中的任意一台节点发送请求,然后根据节点的返回值做重定向(MOVE或ASK)操作,客户端本地也会缓存slot表,并根据每次的重定向信息来更新这个表。

在这里插入图片描述

由于没有中心化组件存储,因此redis cluster使用gossip在集群间同步路由表和集群拓扑信息,在经过一段时间后,理想情况下及群众给每个节点都掌握了整个集群的路由信息

二、slot迁移过程

将一个Redis节点上指定的slot下的所有key迁移到其他redis节点上,需要两步:
1、先获取这个slot下所有的key
2、对每个key发送迁移命令

Redis cluster直接使用migrate命令进行key的迁移,这个命令是同步阻塞的,redis是单线程的,当migrate过程耗时太久(比如网络慢、迁移bigkey)时,会导致主线程无法处理用户请求。

2.1、slot迁移的难点

1、如使用同步阻塞的方式,bigkey或网络慢,会阻塞主线程正常服务
2、对bigkey迁移需要特殊处理,否则bigkey的序列号、发送、反序列号时,都可能导致源redis实例和目标redis实例主线程阻塞。
3、单个key的迁移过程需要保证原子性,即要么一个key全部迁移成功,要么全部迁移失败,不能存在中间状态
4、对迁移中slot的读写出出力,即一个slot如果正处于迁移过程中,其中的key(已经迁移走、迁移中、或等待迁移)是否可以被正常读写。

2.2、Redis Cluster的slot迁移实现

2.2.1、slot分配

redis-cluster为了支持slot迁移,改造引擎加入了key和slot的映射关系。Redis-cluster使用rax树来维护key和slot的映射关系。因此在新建集群、集群扩缩容的时候,都会涉及到slot分配、删除等操作,这些操作通过以下命令实现:

  • cluster addslots [slot …] 将一个或多个槽(slot)指派(assign)给当前节点。
  • cluster delslots [slot …] 移除一个或多个槽对当前节点的指派。
  • cluster flushslots 移除指派给当前节点的所有槽,让当前节点变成一个没有指派任何槽的节点。
  • cluster setslot node <node_id> 将槽 slot 指派给 node_id 指定的节点,如果槽已经指派给另一个节点,那么先让另一个节点删除该槽>,然后再进行指派。

2.2.2、key-slot操作

一旦key和slot的映射关系建立好,就可以执行key相关的slot命令,redis-cluster提供了以下命令:

  • cluster slot 计算键 key 应该被放置在哪个槽上。
  • cluster countkeysinslot 返回槽 slot 目前包含的键值对数量。
  • cluster getkeysinslot 返回 count 个 slot 槽中的键。

2.2.3、slot的迁移流程

  • 对目标节点发送 cluster setslot importing 命令,让目标节点准备导入槽的数据。
  • 对源节点发送 cluster setslot migrating 命令,让源节点准备迁出槽的数据。
  • 源节点循环执行 cluster getkeysinslot 命令,获取count个属于槽slot的键。
  • 在源节点上执行 migrate “” 0 keys <keys…> 命令,把获取的键通过流水线(pipeline)机制批量迁移到目标节点。
  • 重复执行步骤3和步骤4直到槽下所有的键值数据迁移到目标节点。
  • 向集群内所有主节点发送cluster setslot node 命令,通知槽分配给目标节点。为了保证槽节点映射变更及时传播,需要遍历发送给所有主节点更新被迁移的槽指向新节点。

2.4、key迁移的原子性

由于migrate命令是同步阻塞的(同步发送同步接收),迁移过程中会阻塞该引擎上的所有key的读写,只有在迁移响应成功之后,才会将本地的key删除,因此在redis cluster中迁移是原子的。

2.5、迁移过程中的读写冲突

因为migrate命令是同步阻塞的,因此不会存在一个key正在被迁移又同时被读写的情况,但由于一个slot下可能有部分key被迁移完成,部分key正在等待迁移的情况,因此如果读写的key所属的slot正在被迁移,redis-cluster做如下处理:

  • 客户端根据本地slots缓存发送命令到源节点,如果存在键对象则直接指向并返回结果给客户端。
  • 如果key对象不存在,但key所在的slot属于本节点,则可能存在于目标节点,这时源节点会回复ASK重定向异常。例如如:error)ASK :。
  • 客户端从ASK重定向异常提取出目标节点的信息,发送asking命令到目标节点打开客户端连接标识,再执行key命令。如果存在则执行,不存在则返回不存在信息。
  • 如果key所在的slot不属于本节点,则返回MOVE重定向。格式如下:(error)ASK :。
  • 客户端从ASK重定向异常提取出目标节点信息,发送asking命令到目标节点打开客户端连接标识,再执行键命令。如果存在则执行,不存在则返回不存在信息
  • 如果key所在的slot不属于本节点,则返回MOVE重定向。格式如下:(error)MOVED :。

这篇关于Redis Cluster slots 迁移过程的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/453192

相关文章

浅析Spring Security认证过程

类图 为了方便理解Spring Security认证流程,特意画了如下的类图,包含相关的核心认证类 概述 核心验证器 AuthenticationManager 该对象提供了认证方法的入口,接收一个Authentiaton对象作为参数; public interface AuthenticationManager {Authentication authenticate(Authenti

作业提交过程之HDFSMapReduce

作业提交全过程详解 (1)作业提交 第1步:Client调用job.waitForCompletion方法,向整个集群提交MapReduce作业。 第2步:Client向RM申请一个作业id。 第3步:RM给Client返回该job资源的提交路径和作业id。 第4步:Client提交jar包、切片信息和配置文件到指定的资源提交路径。 第5步:Client提交完资源后,向RM申请运行MrAp

零基础学习Redis(10) -- zset类型命令使用

zset是有序集合,内部除了存储元素外,还会存储一个score,存储在zset中的元素会按照score的大小升序排列,不同元素的score可以重复,score相同的元素会按照元素的字典序排列。 1. zset常用命令 1.1 zadd  zadd key [NX | XX] [GT | LT]   [CH] [INCR] score member [score member ...]

【机器学习】高斯过程的基本概念和应用领域以及在python中的实例

引言 高斯过程(Gaussian Process,简称GP)是一种概率模型,用于描述一组随机变量的联合概率分布,其中任何一个有限维度的子集都具有高斯分布 文章目录 引言一、高斯过程1.1 基本定义1.1.1 随机过程1.1.2 高斯分布 1.2 高斯过程的特性1.2.1 联合高斯性1.2.2 均值函数1.2.3 协方差函数(或核函数) 1.3 核函数1.4 高斯过程回归(Gauss

Solr 使用Facet分组过程中与分词的矛盾解决办法

对于一般查询而言  ,  分词和存储都是必要的  .  比如  CPU  类型  ”Intel  酷睿  2  双核  P7570”,  拆分成  ”Intel”,”  酷睿  ”,”P7570”  这样一些关键字并分别索引  ,  可能提供更好的搜索体验  .  但是如果将  CPU  作为 Facet  字段  ,  最好不进行分词  .  这样就造成了矛盾  ,  解决方法

Redis中使用布隆过滤器解决缓存穿透问题

一、缓存穿透(失效)问题 缓存穿透是指查询一个一定不存在的数据,由于缓存中没有命中,会去数据库中查询,而数据库中也没有该数据,并且每次查询都不会命中缓存,从而每次请求都直接打到了数据库上,这会给数据库带来巨大压力。 二、布隆过滤器原理 布隆过滤器(Bloom Filter)是一种空间效率很高的随机数据结构,它利用多个不同的哈希函数将一个元素映射到一个位数组中的多个位置,并将这些位置的值置

Python:豆瓣电影商业数据分析-爬取全数据【附带爬虫豆瓣,数据处理过程,数据分析,可视化,以及完整PPT报告】

**爬取豆瓣电影信息,分析近年电影行业的发展情况** 本文是完整的数据分析展现,代码有完整版,包含豆瓣电影爬取的具体方式【附带爬虫豆瓣,数据处理过程,数据分析,可视化,以及完整PPT报告】   最近MBA在学习《商业数据分析》,大实训作业给了数据要进行数据分析,所以先拿豆瓣电影练练手,网络上爬取豆瓣电影TOP250较多,但对于豆瓣电影全数据的爬取教程很少,所以我自己做一版。 目

Lua 脚本在 Redis 中执行时的原子性以及与redis的事务的区别

在 Redis 中,Lua 脚本具有原子性是因为 Redis 保证在执行脚本时,脚本中的所有操作都会被当作一个不可分割的整体。具体来说,Redis 使用单线程的执行模型来处理命令,因此当 Lua 脚本在 Redis 中执行时,不会有其他命令打断脚本的执行过程。脚本中的所有操作都将连续执行,直到脚本执行完成后,Redis 才会继续处理其他客户端的请求。 Lua 脚本在 Redis 中原子性的原因

CentOs7上Mysql快速迁移脚本

因公司业务需要,对原来在/usr/local/mysql/data目录下的数据迁移到/data/local/mysql/mysqlData。 原因是系统盘太小,只有20G,几下就快满了。 参考过几篇文章,基于大神们的思路,我封装成了.sh脚本。 步骤如下: 1) 先修改好/etc/my.cnf,        ##[mysqld]       ##datadir=/data/loc

CentOS下mysql数据库data目录迁移

https://my.oschina.net/u/873762/blog/180388        公司新上线一个资讯网站,独立主机,raid5,lamp架构。由于资讯网是面向小行业,初步估计一两年内访问量压力不大,故,在做服务器系统搭建的时候,只是简单分出一个独立的data区作为数据库和网站程序的专区,其他按照linux的默认分区。apache,mysql,php均使用yum安装(也尝试