RocketMQ集群平滑扩缩容【实战笔记】

2023-10-19 05:40

本文主要是介绍RocketMQ集群平滑扩缩容【实战笔记】,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

目录
一、运维需求
二、平滑扩容1.下线从节点2.重组主从模式
三、平滑缩容1.关闭broker写权限2.验证broker流量情况3.验证broker积压情况4.节点下线
四、问题答疑
一、运维需求

在 RocketMQ 集群的实践中,对集群扩容、缩容、节点下线等运维做到平滑、业务无感知、数据无丢失,这个对于集群运维的同学来说非常重要。

比如前些日子出现的问题,由于线上集群频繁出现 CPU 毛刺甚至直接挂掉并伴随着集群抖动,对内核参数的调整只能减缓毛刺却不能消除抖动。集群抖动业务使用会伴随着发送延迟告警,始终是个必须处理的隐患。最终决定更换操作系统即更换内核。

集群信息: RocketMQ版本4.5.2
主从信息:4主4从 broker-a, broker-b, broker-c, broker-d, 
broker-a(slave), broker-b(slave), broker-c(slave), broker-d(slave)

集群的部署如下下图所示:

其需要简单概括如下,就是要将上述集群的操作系统内核从 Centos6 升级到 Centos7,但业务不能停。


二、平滑扩容

1.下线从节点

从节点正常关闭 rocketmq,从节点下线对业务不会造成影响,如果配置,slaveReadEnable = true,从节点的通常在消息回溯延迟超过内存消息的40%时使用。

sh bin/mqshutdown broker
or
kill pid

从节点下线之后,集群的部署情况如下图所示:

直接停掉从节点,并不影响当前业务的使用,因为写,读都可以通过主节点,对业务无影响。

2.重组主从模式

新申请4台机器与原从节点重新组合成主从关系。

具体操作为将新申请的4台机器的内核全部升级为Centos7内核,并部署为 broker-a1,broker-b1,broker-c1,broker-d1,这里如果使用 broker-e,f,f,h 命名,会造成流量切斜,导致消费不均衡,原因在文末会给出,大家不妨思考一下。

然后将上一步下掉的从节点,其内核全部升级为 centos7的内核。并将这些节点设置为新增4个主节点的从,其部署结构如下图所示:

此时集群中变成8主,其中新增集群有从节点,即装有centor7内核的新机器构成了4主4从,接下来就只需要将内核为centos6的主节点的数据消费完成,并下线即可。

三、平滑缩容

接下来主要是将装有centos6内核的旧机器从集群中移除,具体操作如下。

1.关闭broker写权限

逐台关闭 broker-a, broker-b, broker-c, broker-d 的写入权限,其中4表示只读权限,6表示读写权限。

bin/mqadmin updateBrokerConfig -b x.x.x.x:10911 -n x.x.x.x:9876 -k brokerPermission -v 4
Java HotSpot(TM) 64-Bit Server VM warning: ignoring option PermSize=128m; support was removed in 8.0
Java HotSpot(TM) 64-Bit Server VM warning: ignoring option MaxPermSize=128m; support was removed in 8.0
update broker config success, x.x.x.x:10911

2.验证broker流量情况

bin/mqadmin clusterList -n x.x.x.x:9876
等待broker出入流量均归零

3.验证broker积压情况

bin/mqadmin brokerConsumeStats -b x.x.x.x:10911 -n x.x.x.x:9876

观察最后一行 Diff Total 等于 0 时表示该节点已经没有积压,即全部消费完毕。

4.节点下线

当节点流量和积压都为0时,节点可以下线了。如果broker一直有流量或者积压一直存在呢?通常线上集群的存储时间为2~3天;可以在过了存储时间后再安排下线。

sh bin/mqshutdown broker
or
kill pid


四、问题答疑

上文中有提到过扩容新增节点时命名时不要使用 broker-e, broker-f, broker-g, broker-h;而采用broker-a1, broker-b1, broker-c1, broker-d1。

按照默认平均分配消费算法,如果采用第一种命名,当关闭broker-a, broker-b, broker-c, broker-d的写入权限时,数据会全部集中在broker-e, broker-f, broker-g, broker-h节点,假如线上部署了四台消费机器,会有两台机器分到broker-a, broker-b, broker-c, broker-d的分区,而另外两台机器分到broker-e, broker-f, broker-g, broker-h的分区。

而broker-a, broker-b, broker-c, broker-d节点的写权限被关闭后,会造成其中两台节点无数据,数据全部分配到另外的消费机器上。

因为只是关闭了broker-a,b,c,d的写权限,读权限未关闭,但如果使用broker-a,a1,b,b1这种命名方式,就能平衡其流量,不至于连续出现大部分队列上无数据的情况,使消费者负载趋于均衡。


在不影响业务的情况下,把集群内所有的节点全部重新更新内核就是这么溜,欢迎加群与作者互动,共同交流。


「瓜农老梁  学习同行」

    

这篇关于RocketMQ集群平滑扩缩容【实战笔记】的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/237694

相关文章

Python列表去重的4种核心方法与实战指南详解

《Python列表去重的4种核心方法与实战指南详解》在Python开发中,处理列表数据时经常需要去除重复元素,本文将详细介绍4种最实用的列表去重方法,有需要的小伙伴可以根据自己的需要进行选择... 目录方法1:集合(set)去重法(最快速)方法2:顺序遍历法(保持顺序)方法3:副本删除法(原地修改)方法4:

在Spring Boot中浅尝内存泄漏的实战记录

《在SpringBoot中浅尝内存泄漏的实战记录》本文给大家分享在SpringBoot中浅尝内存泄漏的实战记录,结合实例代码给大家介绍的非常详细,感兴趣的朋友一起看看吧... 目录使用静态集合持有对象引用,阻止GC回收关键点:可执行代码:验证:1,运行程序(启动时添加JVM参数限制堆大小):2,访问 htt

利用Python快速搭建Markdown笔记发布系统

《利用Python快速搭建Markdown笔记发布系统》这篇文章主要为大家详细介绍了使用Python生态的成熟工具,在30分钟内搭建一个支持Markdown渲染、分类标签、全文搜索的私有化知识发布系统... 目录引言:为什么要自建知识博客一、技术选型:极简主义开发栈二、系统架构设计三、核心代码实现(分步解析

Spring Security基于数据库的ABAC属性权限模型实战开发教程

《SpringSecurity基于数据库的ABAC属性权限模型实战开发教程》:本文主要介绍SpringSecurity基于数据库的ABAC属性权限模型实战开发教程,本文给大家介绍的非常详细,对大... 目录1. 前言2. 权限决策依据RBACABAC综合对比3. 数据库表结构说明4. 实战开始5. MyBA

Redis分片集群的实现

《Redis分片集群的实现》Redis分片集群是一种将Redis数据库分散到多个节点上的方式,以提供更高的性能和可伸缩性,本文主要介绍了Redis分片集群的实现,具有一定的参考价值,感兴趣的可以了解一... 目录1. Redis Cluster的核心概念哈希槽(Hash Slots)主从复制与故障转移2.

Spring Boot + MyBatis Plus 高效开发实战从入门到进阶优化(推荐)

《SpringBoot+MyBatisPlus高效开发实战从入门到进阶优化(推荐)》本文将详细介绍SpringBoot+MyBatisPlus的完整开发流程,并深入剖析分页查询、批量操作、动... 目录Spring Boot + MyBATis Plus 高效开发实战:从入门到进阶优化1. MyBatis

MyBatis 动态 SQL 优化之标签的实战与技巧(常见用法)

《MyBatis动态SQL优化之标签的实战与技巧(常见用法)》本文通过详细的示例和实际应用场景,介绍了如何有效利用这些标签来优化MyBatis配置,提升开发效率,确保SQL的高效执行和安全性,感... 目录动态SQL详解一、动态SQL的核心概念1.1 什么是动态SQL?1.2 动态SQL的优点1.3 动态S

Pandas使用SQLite3实战

《Pandas使用SQLite3实战》本文主要介绍了Pandas使用SQLite3实战,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学... 目录1 环境准备2 从 SQLite3VlfrWQzgt 读取数据到 DataFrame基础用法:读

Python实战之屏幕录制功能的实现

《Python实战之屏幕录制功能的实现》屏幕录制,即屏幕捕获,是指将计算机屏幕上的活动记录下来,生成视频文件,本文主要为大家介绍了如何使用Python实现这一功能,希望对大家有所帮助... 目录屏幕录制原理图像捕获音频捕获编码压缩输出保存完整的屏幕录制工具高级功能实时预览增加水印多平台支持屏幕录制原理屏幕

最新Spring Security实战教程之Spring Security安全框架指南

《最新SpringSecurity实战教程之SpringSecurity安全框架指南》SpringSecurity是Spring生态系统中的核心组件,提供认证、授权和防护机制,以保护应用免受各种安... 目录前言什么是Spring Security?同类框架对比Spring Security典型应用场景传统