十. MySQL并行复制

2024-04-30 08:38
文章标签 mysql database 并行复制

本文主要是介绍十. MySQL并行复制,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

并行复制的演进

MySQL最早的主备复制只有两个线程,IO 线程负责从主库接收 binlog 日志,并保存在本地的 relaylog 中,SQL线程负责解析和重放 relaylog 中的 event。当主库并行写入压力较大时,备库 IO 线程一般不会产生延迟,因为写 relaylog 是顺序写,但是 SQL线程重放的速度经常跟不上主库写入的速度,会造成主备延迟。如果延迟过大,relaylog 一直在备库堆积,还可能把磁盘占满。

在官方的5.6版本之前,MySQL只支持单线程复制,因此在主库并发高,TPS高时就会出现严重的主备延迟问题。从单线程复制到最新版本的多线程复制,中间的演化经历了好几个版本。

多线程复制,具体方法就是把sql_thread,拆成多个worker线程,由一个coordinator分发到不同的worker,实现并行复制。coordinator在分发的时候,需要满足以下这两个条件:

1.不能造成更新覆盖。也就是更新同一行的两个事务,必须被分发到同一个worker中。

2.同一个事务不能被拆开,必须放到同一个worker中。

MySQL 5.6版本的并行复制策略

MySQL 5.6版本支持了按库并行复制。按库并行复制的并行效果,取决于压力模型。如果在主库上有多个DB,并且各个DB的压力均衡,使用这个策略的效果会很好。但是,如果主库上的表都放在同一个DB里面,这个策略就没有效果了。

MariaDB的并行复制策略

在前面的文章中,我们介绍了redo log的组提交(group commit)优化,而MariaDB的并行复制策略利用的就是这个特性:

1.能够在同一组里提交的事务,一定不会修改同一行。

2.主库上可以并行执行的事务,备库上也一定是可以并行执行的。

在实现上,MariaDB是这么做的:

1.在一组里面一起提交的事务,有一个相同的 commit_id,下一组就是commid_id+1;

2.commit_id直接写到binlog里面。

3.传到备库的时候,相同commit_id的事务分发到多个worker执行。

4.这一组全部执行完成后,coordinator再去取下一批。

MariaDB的方案很容易被大事务拖后腿。假如一组事务有trx1,trx2,trx3,trx2是一个超大事务。在应用到备库的时候,trx1,trx3执行完成后,只能等trx2执行完成,下一组才能开始执行。这段时间,只有一个worker线程在工作,是对资源的浪费。

MySQL 5.7的并行复制策略

在MariaDB并行复制实现后,官方的MySQL 5.7版本也提供了类似的功能,由参数slave-parallel-type来控制并行复制策略:

1.配置为DATABASE,表示使用MySQL 5.6版本的按库并行策略。

2.配置为LOGICAL_CLOCK,表示使用类似mariaDB的策略。MySQL 5.7对这个策略做了优化。

MySQL 5.7优化后的并行复制策略是:

1.同时处于prepare状态的事务,在备库执行时是可以并行的。

2.处于prepapre状态的事务,与处于commit状态的事务之间,在备库执行时也是可以并行的。

在前面我们讲binlog的组提交的时候,介绍过两个参数:

1.binlog_group_commit_sync_delaya参数,表示延迟多少微秒后才fsync。

2.binlog_group_commit_sync_no_delay_count参数,表示累积多少次以后才调用fsync。

这两个参数是用于故意拉长binlog从write到fsync的时间,以此减少binlog的写盘次数。在MySQL 5.7的并行复制策略里,它们可以用来制造更多的处于prepare阶段的事务,这样就增加里备库复制的并行度。

MySQL 5.7.22的并行复制策略

在5.7.22版本里,MySQL增加了基于WRITESET的并行复制策略。相应的,增加了一个参数binlog-transaction-dependency-tracking,用来控制是否启用这个新策略,这个参数的可选值有以下三种:

1.COMMOT_ORDER,表示的就是前面介绍的,根据同时进入prepare和commit来判断是否可以并行的策略。

2.WRITESET,表示的是如果对于事务涉及更新的每一行,计算出这一行的hash值,组成集合writeset。如果两个事务没有操作相同的行,也就是说 它们的writeset没有交集,就可以并行。

3.WRITESET_SESSION,是在WRITESET的基础上多了一个约束,即在主库上同一个线程先后执行的两个事务,在备库执行的时候,要保证 相同的先后顺序。

对于“表上没主键”和“外键约束”的场景,WRITESET策略也是没法并行的,也会暂时退化为单线程模型。

这篇关于十. MySQL并行复制的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/948395

相关文章

Ubuntu中远程连接Mysql数据库的详细图文教程

《Ubuntu中远程连接Mysql数据库的详细图文教程》Ubuntu是一个以桌面应用为主的Linux发行版操作系统,这篇文章主要为大家详细介绍了Ubuntu中远程连接Mysql数据库的详细图文教程,有... 目录1、版本2、检查有没有mysql2.1 查询是否安装了Mysql包2.2 查看Mysql版本2.

基于SpringBoot+Mybatis实现Mysql分表

《基于SpringBoot+Mybatis实现Mysql分表》这篇文章主要为大家详细介绍了基于SpringBoot+Mybatis实现Mysql分表的相关知识,文中的示例代码讲解详细,感兴趣的小伙伴可... 目录基本思路定义注解创建ThreadLocal创建拦截器业务处理基本思路1.根据创建时间字段按年进

Python3.6连接MySQL的详细步骤

《Python3.6连接MySQL的详细步骤》在现代Web开发和数据处理中,Python与数据库的交互是必不可少的一部分,MySQL作为最流行的开源关系型数据库管理系统之一,与Python的结合可以实... 目录环境准备安装python 3.6安装mysql安装pymysql库连接到MySQL建立连接执行S

MySQL双主搭建+keepalived高可用的实现

《MySQL双主搭建+keepalived高可用的实现》本文主要介绍了MySQL双主搭建+keepalived高可用的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,... 目录一、测试环境准备二、主从搭建1.创建复制用户2.创建复制关系3.开启复制,确认复制是否成功4.同

MyBatis 动态 SQL 优化之标签的实战与技巧(常见用法)

《MyBatis动态SQL优化之标签的实战与技巧(常见用法)》本文通过详细的示例和实际应用场景,介绍了如何有效利用这些标签来优化MyBatis配置,提升开发效率,确保SQL的高效执行和安全性,感... 目录动态SQL详解一、动态SQL的核心概念1.1 什么是动态SQL?1.2 动态SQL的优点1.3 动态S

Mysql表的简单操作(基本技能)

《Mysql表的简单操作(基本技能)》在数据库中,表的操作主要包括表的创建、查看、修改、删除等,了解如何操作这些表是数据库管理和开发的基本技能,本文给大家介绍Mysql表的简单操作,感兴趣的朋友一起看... 目录3.1 创建表 3.2 查看表结构3.3 修改表3.4 实践案例:修改表在数据库中,表的操作主要

mysql出现ERROR 2003 (HY000): Can‘t connect to MySQL server on ‘localhost‘ (10061)的解决方法

《mysql出现ERROR2003(HY000):Can‘tconnecttoMySQLserveron‘localhost‘(10061)的解决方法》本文主要介绍了mysql出现... 目录前言:第一步:第二步:第三步:总结:前言:当你想通过命令窗口想打开mysql时候发现提http://www.cpp

MySQL大表数据的分区与分库分表的实现

《MySQL大表数据的分区与分库分表的实现》数据库的分区和分库分表是两种常用的技术方案,本文主要介绍了MySQL大表数据的分区与分库分表的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有... 目录1. mysql大表数据的分区1.1 什么是分区?1.2 分区的类型1.3 分区的优点1.4 分

MySQL错误代码2058和2059的解决办法

《MySQL错误代码2058和2059的解决办法》:本文主要介绍MySQL错误代码2058和2059的解决办法,2058和2059的错误码核心都是你用的客户端工具和mysql版本的密码插件不匹配,... 目录1. 前置理解2.报错现象3.解决办法(敲重点!!!)1. php前置理解2058和2059的错误

Mysql删除几亿条数据表中的部分数据的方法实现

《Mysql删除几亿条数据表中的部分数据的方法实现》在MySQL中删除一个大表中的数据时,需要特别注意操作的性能和对系统的影响,本文主要介绍了Mysql删除几亿条数据表中的部分数据的方法实现,具有一定... 目录1、需求2、方案1. 使用 DELETE 语句分批删除2. 使用 INPLACE ALTER T