RocketMQ集群搭建,及RocketMQ-Dashboard部署(前RocketMQ-Console)

2024-08-30 07:36

本文主要是介绍RocketMQ集群搭建,及RocketMQ-Dashboard部署(前RocketMQ-Console),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

集群搭建 

RocketMQ不支持单主机搭建主从结构集群,当从节点启动时,即使和主节点设置不同的监听端口,他也要去监听主节点端口,也就是说正常启动的从节点会监听四个端口。原因未知,现象后面会列举出来。

1. 准备JAVA环境,下载RocketMQ包

Rocket是由Java开发的一款消息中间件,所以我们需要先下载Java环境,才能正常运行。

yum install java-1.8.0-openjdk

如果显示找不到包,可以通过下面的文章配置自己CentOS版本和架构对应的阿里源 

Centos替换yum阿里云源,epel源(最简单)icon-default.png?t=N7T8https://blog.csdn.net/dxh9231028/article/details/140790971?spm=1001.2014.3001.5502准备好Java环境后,进入RocketMQ官网,点击右上位置的DownLoad按钮,进入下载页面。

右键点击想要下载的版本的二进制包,复制链接

进入主机终端,通过wget下载RocketMQ压缩包,并解压。 我使用的命令是下载5.3.0版本的RocketMQ,命令如下:

#进入根目录
cd /#下载RocketMQ
wget https://dist.apache.org/repos/dist/release/rocketmq/5.3.0/rocketmq-all-5.3.0-bin-release.zip#解压RocketMQ压缩包
unzip /rocketmq-all-5.3.0-bin-release.zip#删除压缩包
rm -rf /rocketmq-all-5.3.0-bin-release.zip#将解压缩的RocketMQ改名
mv /rocketmq-all-5.3.0-bin-release/ /rocketmq

2. 修改配置文件

进入rocketmq文件夹中,查看conf内容可以看到如下内容

cd /rocketmq/
ll ./conf/

其中,前面三个文件夹分别是两主两从同步同步数据集群,两主两从异步同步数据集群,以及两主无从集群,Rocket已经给了我们基本配置,我们这俩选择两主两从同步同步数据集群。

如果是虚拟机环境,可以在一个主机上将四个主机的配置都配置好,然后在克隆当前主机四份,修改ip即可。而如果真实环境下,则需要分别在不同主机配置。 修改命令及内容如下

#修改a主机的配置文件的命令
vim ./conf/2m-2s-async/broker-a.properties#==============================配置内容如下==================================
#自带的配置
brokerClusterName=DefaultCluster
brokerName=broker-a
brokerId=0
deleteWhen=04
fileReservedTime=48
brokerRole=ASYNC_MASTER
flushDiskType=ASYNC_FLUSH
#手动添加的配置
namesrvAddr=192.168.166.21:9876;192.168.166.22:9876
#修改a从机的配置文件的命令
vim ./conf/2m-2s-async/broker-a-s.properties#==============================配置内容如下==================================
#自带的配置
brokerClusterName=DefaultCluster
brokerName=broker-a
brokerId=1
deleteWhen=04
fileReservedTime=48
brokerRole=SLAVE
flushDiskType=ASYNC_FLUSH#手动添加的配置
namesrvAddr=192.168.166.21:9876;192.168.166.22:9876
#修改b从机的配置文件的命令
vim ./conf/2m-2s-async/broker-b-s.properties#==============================配置内容如下==================================
#自带的配置
brokerClusterName=DefaultCluster
brokerName=broker-b
brokerId=1
deleteWhen=04
fileReservedTime=48
brokerRole=SLAVE
flushDiskType=ASYNC_FLUSH]#手动添加的配置
#listenPort和haListenPort默认为10911和10912,可以不用改,我是为了测试从节点会监听主节点端口
listenPort=10913
haListenPort=10914
namesrvAddr=192.168.166.21:9876;192.168.166.22:9876

可以看到,四个节点的配置都只需要添加namesrvAddr地址的集群即可,其他的配置都已经是配置好了的,其中brokerName实际上更像是一个组的概念,brokerName相同的节点之间会构成主从关系,而brokerId只需要在这个组内不重复即可。

每个节点默认监听10911和10912两个端口,可以不用指定,最后一个从节点我指定了,是为了测试文章开头提到的问题。

3. 修改启动脚本(根据内存大小可选)

Rocket启动脚本是bin目录下的mqbroker文件,脚本启动时会向jvm申请8G内存,不过在虚拟机环境下,通常不会有这么多内存,所以为了集群的正常启动,我们需要修改启动脚本中的内容,类似下面的这个指令:

JAVA_OPT="${JAVA_OPT} -server -Xms8g -Xmx8g"

mqbroker脚本内部还会执行runbroker.sh,上述指令存在于两个文件中的一个,大概率在runbroker.sh文件中,我们文件中找到类似的内容,修改为如下内容:

JAVA_OPT="${JAVA_OPT} -server -Xms1g -Xmx1g -Xmn512m"

生产环境下,如果内存足够,无需修改。

4. 启动集群

1. 启动nameServer集群

RocketMQ依赖nameServer处理集群元数据,所以我们要先讲配置中的nameServer集群启动,在配置的主机中执行如下命令,启动nameServer。

/rocketmq/bin/mqnamesrv

看到如下信息后证明nameServer节点启动成功 

2. 启动RocketMQ集群 

必须nameServer集群中节点全部启动后,我们在继续启动各个RocketMQ节点,在各个主机分别执行如下命令:

#启动a主节点
/rocketmq/bin/mqbroker -c /rocketmq/conf/2m-2s-async/broker-a.properties#启动a从节点
/rocketmq/bin/mqbroker -c /rocketmq/conf/2m-2s-async/broker-a-s.properties#启动b主节点
/rocketmq/bin/mqbroker -c /rocketmq/conf/2m-2s-async/broker-b.properties#启动b从节点
/rocketmq/bin/mqbroker -c /rocketmq/conf/2m-2s-async/broker-b-s.properties

看到最后一行为类似如下内容证明启动成功

 5. 验证从节点监听主节点端口问题 

我们验证b从节点所在主机监听端口发现,其不仅监听自己配置的端口,还监听主节点所监听的端口。内容如下:

在这种情况,RocketMQ无法进行单主机搭建集群测试,因为从节点会多监听两个主节点的端口。

当主节点未启动时,从节点会多监听一个主节点的listenPort端口,也就是监听三个端口,而当主节点启动后,从节点会多监听一个主节点的haListenPort端口,也就是同事监听四个端口。

这和默认端口无关,因为更改主节点端口,从节点监听的端口也会改变,完全就是跟着主节点变,并且主节点不会监听从节点端口,这一现象很奇怪,不知道原因。

RocketMQ-Dashboard可视化界面部署

RocketMQ-Console是RocketMQ官方推出的一款RocketMQ的可视化工具,目前已经更名为RocketMQ-Dashboard,独立在一个git仓库,部署步骤如下:

1. 下载源码并打包

我们可以进入到RocketMQ-Dashboard的github网站,通过git命令拉取源码,或者直接下载压缩文件

修改项目中application.yml文件中的如下内容,配置nameServer集群的ip和端口:

rocketmq:config:namesrvAddrs:- 192.168.166.21:9876- 192.168.166.22:9876

通过如下命令打包

mvn clean package -Dmaven.test.skip=true

我们在其项目的readme文件中也能看到其打包和运行指令

2. 启动jar包 

将打包后的jar包传入服务器或虚拟机后,通过如下命令启动:

java -jar ./rocketmq-dashboard-1.0.1-SNAPSHOT.jar

看到如下内容证明启动成功

3. 验证RocketMQ-DashBoard和集群的部署

访问启动服务的地址的8080端口,进入可视化页面,点击集群,可以查看我们的全部集群节点信息。

这篇关于RocketMQ集群搭建,及RocketMQ-Dashboard部署(前RocketMQ-Console)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1120193

相关文章

Jenkins分布式集群配置方式

《Jenkins分布式集群配置方式》:本文主要介绍Jenkins分布式集群配置方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1.安装jenkins2.配置集群总结Jenkins是一个开源项目,它提供了一个容易使用的持续集成系统,并且提供了大量的plugin满

如何在Ubuntu 24.04上部署Zabbix 7.0对服务器进行监控

《如何在Ubuntu24.04上部署Zabbix7.0对服务器进行监控》在Ubuntu24.04上部署Zabbix7.0监控阿里云ECS服务器,需配置MariaDB数据库、开放10050/1005... 目录软硬件信息部署步骤步骤 1:安装并配置mariadb步骤 2:安装Zabbix 7.0 Server

Redis分片集群、数据读写规则问题小结

《Redis分片集群、数据读写规则问题小结》本文介绍了Redis分片集群的原理,通过数据分片和哈希槽机制解决单机内存限制与写瓶颈问题,实现分布式存储和高并发处理,但存在通信开销大、维护复杂及对事务支持... 目录一、分片集群解android决的问题二、分片集群图解 分片集群特征如何解决的上述问题?(与哨兵模

如何使用Haporxy搭建Web群集

《如何使用Haporxy搭建Web群集》Haproxy是目前比较流行的一种群集调度工具,同类群集调度工具有很多如LVS和Nginx,本案例介绍使用Haproxy及Nginx搭建一套Web群集,感兴趣的... 目录一、案例分析1.案例概述2.案例前置知识点2.1 HTTP请求2.2 负载均衡常用调度算法 2.

SpringBoot连接Redis集群教程

《SpringBoot连接Redis集群教程》:本文主要介绍SpringBoot连接Redis集群教程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1. 依赖2. 修改配置文件3. 创建RedisClusterConfig4. 测试总结1. 依赖 <de

一文详解如何在idea中快速搭建一个Spring Boot项目

《一文详解如何在idea中快速搭建一个SpringBoot项目》IntelliJIDEA作为Java开发者的‌首选IDE‌,深度集成SpringBoot支持,可一键生成项目骨架、智能配置依赖,这篇文... 目录前言1、创建项目名称2、勾选需要的依赖3、在setting中检查maven4、编写数据源5、开启热

如何搭建并配置HTTPD文件服务及访问权限控制

《如何搭建并配置HTTPD文件服务及访问权限控制》:本文主要介绍如何搭建并配置HTTPD文件服务及访问权限控制的问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、安装HTTPD服务二、HTTPD服务目录结构三、配置修改四、服务启动五、基于用户访问权限控制六、

pytest+allure环境搭建+自动化实践过程

《pytest+allure环境搭建+自动化实践过程》:本文主要介绍pytest+allure环境搭建+自动化实践过程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐... 目录一、pytest下载安装1.1、安装pytest1.2、检测是否安装成功二、allure下载安装2.

使用vscode搭建pywebview集成vue项目实践

《使用vscode搭建pywebview集成vue项目实践》:本文主要介绍使用vscode搭建pywebview集成vue项目实践,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地... 目录环境准备项目源码下载项目说明调试与生成可执行文件核心代码说明总结本节我们使用pythonpywebv

Windows Server 2025 搭建NPS-Radius服务器的步骤

《WindowsServer2025搭建NPS-Radius服务器的步骤》本文主要介绍了通过微软的NPS角色实现一个Radius服务器,身份验证和证书使用微软ADCS、ADDS,具有一定的参考价... 目录简介示意图什么是 802.1X?核心作用802.1X的组成角色工作流程简述802.1X常见应用802.