HBase中的RIT机制(Region in Transcation)

2023-12-01 22:38

本文主要是介绍HBase中的RIT机制(Region in Transcation),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

每天到公司第一件事,就是检查测试环境和线上环境的几个hbase集群运行状态。由于测试环境用的几台机器都是虚拟机,因此不可避免的很容易出现regionserver宕机的情况。每次对于宕机的regionserver重启后的一段时间内,部门里的其他一些需要调用hbase的开发人员就开始抱怨,hbase 客户端连接错误 超时等等各种抱怨,其实也是因为regionserver 启动后,本身会进行一次 RIT操作,这时候 client 服务会暂时关闭掉,这里稍微解释下RIT机制,以便我们更好的进行hbase集群的维护工作。

RIT 的全称是region in transcation. 每次hbase master 对region 的一个open 或一个close 操作都会想Master 的RIT中插入一条记录,因为master 对region 的操作要保持原子性,region 的 open 和 close 是通过Hmaster 和 region server 协助来完成的. 所以为了满足这些操作的协调,回滚,和一致性.Hmaster 采用了 RIT 机制并结合Zookeeper 中Node的状态来保证操作的安全和一致性.

   为了弄清楚RIT的状态机制, 我们先来了解下下面的2个enum. 第一个是 RegionState的状态, 它的作用是用于记录Hmaster在操作region时region 所处的状态.

[java]  view plain copy
  1. /** 
  2.  * State of a Region while undergoing transitions. 
  3.  */  
  4. public static class RegionState implements Writable {  
  5.   private HRegionInfo region;  
  6.   
  7.   public enum State {  
  8.     OFFLINE,        // region is in an offline state  
  9.     PENDING_OPEN,   // sent rpc to server to open but has not begun  
  10.     OPENING,        // server has begun to open but not yet done  
  11.     OPEN,           // server opened region and updated meta  
  12.     PENDING_CLOSE,  // sent rpc to server to close but has not begun  
  13.     CLOSING,        // server has begun to close but not yet done  
  14.     CLOSED          // server closed region and updated meta  
  15.   }  
  16.   
  17.   private State state;  
  18.   private long stamp;  
第二个 enum 是 Hbase Event Handler types. 此处我们着重关注下面5中状态.这5种状态是在open/close region时设置的.可以用于region server 和 hmaster 的通讯和状态记录,保证hmaster可以及时了解region serve 的动作是否完成并在失败时可以回滚.

[java]  view plain copy
  1. RS_ZK_REGION_CLOSING, RS_ZK_REGION_CLOSED ,RS_ZK_REGION_OPENING ,RS_ZK_REGION_OPENED ,M_ZK_REGION_OFFLINE     

/**

[java]  view plain copy
  1.  * List of all HBase event handler types.  Event types are named by a  
  2.  * convention: event type names specify the component from which the event  
  3.  * originated and then where its destined -- e.g. RS2ZK_ prefix means the  
  4.  * event came from a regionserver destined for zookeeper -- and then what  
  5.  * the even is; e.g. REGION_OPENING.  
  6.  *   
  7.  * <p>We give the enums indices so we can add types later and keep them  
  8.  * grouped together rather than have to add them always to the end as we  
  9.  * would have to if we used raw enum ordinals.  
  10.  */  
  11. public enum EventType {  
  12.   // Messages originating from RS (NOTE: there is NO direct communication from  
  13.   // RS to Master). These are a result of RS updates into ZK.  
  14.   RS_ZK_REGION_CLOSING      (1),   // RS is in process of closing a region  
  15.   RS_ZK_REGION_CLOSED       (2),   // RS has finished closing a region  
  16.   RS_ZK_REGION_OPENING      (3),   // RS is in process of opening a region  
  17.   RS_ZK_REGION_OPENED       (4),   // RS has finished opening a region  
  18.   
  19.   // Messages originating from Master to RS  
  20.   M_RS_OPEN_REGION          (20),  // Master asking RS to open a region  
  21.   M_RS_OPEN_ROOT            (21),  // Master asking RS to open root  
  22.   M_RS_OPEN_META            (22),  // Master asking RS to open meta  
  23.   M_RS_CLOSE_REGION         (23),  // Master asking RS to close a region  
  24.   M_RS_CLOSE_ROOT           (24),  // Master asking RS to close root  
  25.   M_RS_CLOSE_META           (25),  // Master asking RS to close meta  
  26.   
  27.   // Messages originating from Client to Master  
  28.   C_M_DELETE_TABLE          (40),   // Client asking Master to delete a table  
  29.   C_M_DISABLE_TABLE         (41),   // Client asking Master to disable a table  
  30.   C_M_ENABLE_TABLE          (42),   // Client asking Master to enable a table  
  31.   C_M_MODIFY_TABLE          (43),   // Client asking Master to modify a table  
  32.   C_M_ADD_FAMILY            (44),   // Client asking Master to add family to table  
  33.   C_M_DELETE_FAMILY         (45),   // Client asking Master to delete family of table  
  34.   C_M_MODIFY_FAMILY         (46),   // Client asking Master to modify family of table  
  35.   
  36.   // Updates from master to ZK. This is done by the master and there is  
  37.   // nothing to process by either Master or RS  
  38.   M_ZK_REGION_OFFLINE       (50),  // Master adds this region as offline in ZK  
  39.   
  40.   // Master controlled events to be executed on the master  
  41.   M_SERVER_SHUTDOWN         (70),  // Master is processing shutdown of a RS  
  42.   M_META_SERVER_SHUTDOWN    (72);  // Master is processing shutdown of RS hosting a meta region (-ROOT- or .META.).  
  43.   
  44.   /** 
  45.    * Constructor 
  46.    */  
  47.   EventType(int value) {}  
  48. }  


    Hmaster中的AssignmentManager是主要来管理region 上线下线操作的。我们可以暂时理解为Assign就是将region 上线,Unassign就是将region下线。

    Assign region 时会先将regionstate 置为OFFLINE,等getregionplan结束后取得了region on line 的server 。 后将其置为PENDING_OPEN并将reionstatus加入到RIT之中.随后调用RPC让regionserver 中OpenRegionHandler来在region server端处理open region的动作,其中包括将zk中node的状态置为RS_ZK_REGION_OPENING  然后对hregion 进行初始话,最后将zk中 node 的状态置为RS_ZK_REGION_OPENED。 后续master端会通过zk 的watch机制发现node的状态发生变化。详见图三中左半部分流程。

同样Unassign region 时会先将regionstate 置为PENDING_CLOSE状态并将reionstatus加入到RIT之中,在完成一系列检查之后会调用RPC让regionserver 中CloseRegionHandler来在region server端处理open region的动作,其中包括将zk中node的状态置为RS_ZK_REGION_CLOSEING  然后对hregion 进行CLOSE,最后将zk中 node 的状态置为RS_ZK_REGION_CLOSEED。 后续master端会通过zk 的watch机制发现node的状态发生变化。详见图三中左半部分流程。



在图三所示中是hmaster在对RIT的处理。如果是第一次启动,会监视ZK的变化,发现ZK变化后根据ZK中node的状态调用hmaster中的hander(ClosedRegionHandler,OpeneRegionHandler)来处理,如果node 状态为RS_ZK_REGION_CLOSED ,RS_ZK_REGION_OPENED,

表示region server动作已经完成,master 完成相应动作后会其对于的RIT中的regionstate删除。这样就完成了RIT中regionstate的一个生命过程。 同样如果是FAILOVER中做recover的master会对ZK中的node状态进行扫描,然后处理对应的RIT。

RIT中保存的长时间没有处理的regionstate会被chore线程处理掉,重新加入assign和unassign队列之中。



这篇关于HBase中的RIT机制(Region in Transcation)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/442960

相关文章

java中反射(Reflection)机制举例详解

《java中反射(Reflection)机制举例详解》Java中的反射机制是指Java程序在运行期间可以获取到一个对象的全部信息,:本文主要介绍java中反射(Reflection)机制的相关资料... 目录一、什么是反射?二、反射的用途三、获取Class对象四、Class类型的对象使用场景1五、Class

Nginx之upstream被动式重试机制的实现

《Nginx之upstream被动式重试机制的实现》本文主要介绍了Nginx之upstream被动式重试机制的实现,可以通过proxy_next_upstream来自定义配置,具有一定的参考价值,感兴... 目录默认错误选择定义错误指令配置proxy_next_upstreamproxy_next_upst

Spring排序机制之接口与注解的使用方法

《Spring排序机制之接口与注解的使用方法》本文介绍了Spring中多种排序机制,包括Ordered接口、PriorityOrdered接口、@Order注解和@Priority注解,提供了详细示例... 目录一、Spring 排序的需求场景二、Spring 中的排序机制1、Ordered 接口2、Pri

MySQL 缓存机制与架构解析(最新推荐)

《MySQL缓存机制与架构解析(最新推荐)》本文详细介绍了MySQL的缓存机制和整体架构,包括一级缓存(InnoDBBufferPool)和二级缓存(QueryCache),文章还探讨了SQL... 目录一、mysql缓存机制概述二、MySQL整体架构三、SQL查询执行全流程四、MySQL 8.0为何移除查

一文详解Java Condition的await和signal等待通知机制

《一文详解JavaCondition的await和signal等待通知机制》这篇文章主要为大家详细介绍了JavaCondition的await和signal等待通知机制的相关知识,文中的示例代码讲... 目录1. Condition的核心方法2. 使用场景与优势3. 使用流程与规范基本模板生产者-消费者示例

一文带你理解Python中import机制与importlib的妙用

《一文带你理解Python中import机制与importlib的妙用》在Python编程的世界里,import语句是开发者最常用的工具之一,它就像一把钥匙,打开了通往各种功能和库的大门,下面就跟随小... 目录一、python import机制概述1.1 import语句的基本用法1.2 模块缓存机制1.

Redis主从/哨兵机制原理分析

《Redis主从/哨兵机制原理分析》本文介绍了Redis的主从复制和哨兵机制,主从复制实现了数据的热备份和负载均衡,而哨兵机制可以监控Redis集群,实现自动故障转移,哨兵机制通过监控、下线、选举和故... 目录一、主从复制1.1 什么是主从复制1.2 主从复制的作用1.3 主从复制原理1.3.1 全量复制

Redis缓存问题与缓存更新机制详解

《Redis缓存问题与缓存更新机制详解》本文主要介绍了缓存问题及其解决方案,包括缓存穿透、缓存击穿、缓存雪崩等问题的成因以及相应的预防和解决方法,同时,还详细探讨了缓存更新机制,包括不同情况下的缓存更... 目录一、缓存问题1.1 缓存穿透1.1.1 问题来源1.1.2 解决方案1.2 缓存击穿1.2.1

Java如何通过反射机制获取数据类对象的属性及方法

《Java如何通过反射机制获取数据类对象的属性及方法》文章介绍了如何使用Java反射机制获取类对象的所有属性及其对应的get、set方法,以及如何通过反射机制实现类对象的实例化,感兴趣的朋友跟随小编一... 目录一、通过反射机制获取类对象的所有属性以及相应的get、set方法1.遍历类对象的所有属性2.获取

MySQL中的锁和MVCC机制解读

《MySQL中的锁和MVCC机制解读》MySQL事务、锁和MVCC机制是确保数据库操作原子性、一致性和隔离性的关键,事务必须遵循ACID原则,锁的类型包括表级锁、行级锁和意向锁,MVCC通过非锁定读和... 目录mysql的锁和MVCC机制事务的概念与ACID特性锁的类型及其工作机制锁的粒度与性能影响多版本