大数据基础设施搭建 - Maxwell

本文主要是介绍大数据基础设施搭建 - Maxwell，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

一、上传压缩包

下载地址：https://github.com/zendesk/maxwell/releases/download/v1.29.2/maxwell-1.29.2.tar.gz
注意1：Maxwell是用java写的，需要JDK环境。
注意2：Maxwell-1.30.0及以上版本不再支持JDK1.8。

二、解压压缩包

[mall@mall software]$ tar -zxvf maxwell-1.29.2.tar.gz -C /opt/module/

三、启用MySQL Binlog

MySQL Binlog默认是不开启的。

3.1 修改MySQL配置文件

[mall@mall module]$ sudo vim /etc/my.cnf

新增内容：

注意：需要在[mysqld]下面添加mysql相关配置！
server-id：开启binlog后，MySQL就以为要搞主从复制了，所以需要给服务器编上号，然后标记哪个是主哪个是从。

[mysqld]#数据库id
server-id = 1
#启动binlog，该参数的值会作为binlog的文件名
log-bin=mysql-gmall-binlog
#binlog类型，maxwell要求为row类型
binlog_format=row
#启用binlog的数据库，需根据实际情况作出修改
binlog-do-db=gmall

3.2 重启MySQL服务

[mall@mall module]$ sudo systemctl restart mysqld

3.3 测试

File：binlog文件名，文件写满后会滚动后缀。
Position：偏移量

[mall@mall module]$ mysql -uroot -p
mysql> show master status;

四、创建Maxwell所需数据库和用户

Maxwell需要在MySQL中存储其运行过程中的所需的一些数据，包括binlog同步的断点位置（Maxwell支持断点续传）等等，故需要在MySQL为Maxwell创建数据库及用户。

4.1 创建数据库

msyql> CREATE DATABASE maxwell;

4.2 调整MySQL数据库密码级别

每次创建/修改用户、密码都得执行此命令。

mysql> set global validate_password_policy=0;
mysql> set global validate_password_length=4;

4.3 创建Maxwell用户并赋予其必要权限

创建用户：创建maxwell用户，开放给所有host连接地址，密码为maxwell。
授予权限1：把maxwell库下的所有表的ALL所有权限授予给maxwell用户的%任意的host地址连接。
授予权限2：任意库里的任意表的基础读权限（SELECT, REPLICATION CLIENT, REPLICATION SLAVE），给到maxwell用户的任意地址连接

mysql> CREATE USER 'maxwell'@'%' IDENTIFIED BY 'maxwell';
mysql> GRANT ALL ON maxwell.* TO 'maxwell'@'%';
mysql> GRANT SELECT, REPLICATION CLIENT, REPLICATION SLAVE ON *.* TO 'maxwell'@'%';

4.4 测试

select_priv：查询权限
repl_slave_priv：成为主服务器的从属服务器的权限
repl_client_priv：从主服务器接收binlog文件的权限

mysql> select user,select_priv,repl_slave_priv,repl_client_priv from user;

五、修改配置文件

5.1 修改Maxwell配置文件名称

[mall@mall module]$ cd /opt/module/maxwell-1.29.2/
[mall@mall maxwell-1.29.2]$ cp config.properties.example config.properties

5.2 修改Maxwell配置文件

[mall@mall maxwell-1.29.2]$ vim config.properties

内容：

#Maxwell数据发送目的地，可选配置有stdout|file|kafka|kinesis|pubsub|sqs|rabbitmq|redis
producer=kafka
#目标Kafka集群地址
kafka.bootstrap.servers=hadoop102:9092,hadoop103:9092
#目标Kafka topic，可静态配置，例如:maxwell，也可动态配置，例如：%{database}_%{table}
kafka_topic=maxwell_gmall#MySQL相关配置
host=mall
user=maxwell
password=maxwell
jdbc_options=useSSL=false&serverTimezone=Asia/Shanghai

六、启动/停止

6.1 创建Kafka Topic

maxwell不会自动去创建topic，必须手动创建topic，否则maxwell会启动失败。

[hadoop@hadoop102 kafka_2.11-2.4.1]$ bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --create --replication-factor 2 --partitions 2 --topic maxwell_gmall

6.2 启动/停止

# 启动
[mall@mall ~]$ /opt/module/maxwell-1.29.2/bin/maxwell --config /opt/module/maxwell-1.29.2/config.properties --daemon
# 停止
[mall@mall ~]$ ps -ef | grep maxwell | grep -v grep | awk '{print $2}'
[mall@mall ~]$ kill 

七、测试

7.1 向MySQL中插入数据

mysql> INSERT INTO `activity_info` VALUES (2, 'oppo专场', '3102', 'oppo满减', '2020-10-22 18:49:12', '2020-11-30 18:49:15', NULL);

7.2 Maxwell采集到的json数据

ts：10为时间戳，单位是秒s，表示采集到json数据的时间
xid：事务id
commit：事务是否提交成功

{"database": "gmall","table": "activity_info","type": "insert","ts": 1701337924,"xid": 10012,"commit": true,"data": {"id": 2,"activity_name": "oppo专场","activity_type": "3102","activity_desc": "oppo满减","start_time": "2020-10-22 18:49:12","end_time": "2020-11-30 18:49:15","create_time": null}
}

这篇关于大数据基础设施搭建 - Maxwell的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！

---