MySQL根据主键切割大事务(变相ROWID切片)

2023-10-10 18:48

本文主要是介绍MySQL根据主键切割大事务(变相ROWID切片),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

不管是Oracle,MySQL,还是PostGre SQL,跑大事务都会严重影响数据库性能

在Oracle里面可以利用rowid切片的方式处理大事务,如果不清楚什么是rowid切片,可以买一本《SQL优化核心思想》看看

MySQL没有Oracle的区,块,段这些概念,所以也就不能使用rowid切片的方式处理大事务

MySQL中表一般都是存在innodb引擎中的,使用innodb引擎每个表都必须要设置主键(当然了你也可以不设置主键,你屌)

MySQL中主键一般都是自增(auto_increment)的,所以可以模仿Oracle的做法来变相实现ROWID切片

MySQL跑大事务危害非常大,DBA最担心的就是主从同步问题,MySQL里面跑个大事务很容易引起主从同步延迟

现在有个表t,主键为id,最小值和最大值如下:

mysql> select min(id) from t;
+---------+
| min(id) |
+---------+
|       2 |
+---------+
1 row in set (0.00 sec)
mysql> select max(id) from t;
+---------+
| max(id) |
+---------+
|  365926 |
+---------+
1 row in set (0.00 sec)

要执行update t set owner='沙雕';

可以根据主键对表切割,比如切为50份:

mysql> SELECT concat('update t set owner= ''沙雕'' where id>',->               avg_row * (n - 1),->               ' and id<=',->               avg_row * n,->               ';') split_sql->   FROM (SELECT n, min_id, max_id, ceil(max_id / 50) avg_row->           FROM (WITH RECURSIVE x(n) AS (SELECT 1 UNION ALL->                                                 SELECT n + 1->                                                   FROM x->                                                  WHERE n < 50->                                         )->                  SELECT *->                    FROM x) a, (SELECT min(id) min_id FROM t) b, (SELECT max(id) max_id->                                                                           FROM t) c->         ) a;
+--------------------------------------------------------------+
| split_sql                                                    |
+--------------------------------------------------------------+
| update t set owner= '沙雕' where id>0 and id<=7319;          |
| update t set owner= '沙雕' where id>7319 and id<=14638;      |
| update t set owner= '沙雕' where id>14638 and id<=21957;     |
| update t set owner= '沙雕' where id>21957 and id<=29276;     |
| update t set owner= '沙雕' where id>29276 and id<=36595;     |
| update t set owner= '沙雕' where id>36595 and id<=43914;     |
| update t set owner= '沙雕' where id>43914 and id<=51233;     |
| update t set owner= '沙雕' where id>51233 and id<=58552;     |
| update t set owner= '沙雕' where id>58552 and id<=65871;     |
| update t set owner= '沙雕' where id>65871 and id<=73190;     |
| update t set owner= '沙雕' where id>73190 and id<=80509;     |
| update t set owner= '沙雕' where id>80509 and id<=87828;     |
| update t set owner= '沙雕' where id>87828 and id<=95147;     |
| update t set owner= '沙雕' where id>95147 and id<=102466;    |
| update t set owner= '沙雕' where id>102466 and id<=109785;   |
| update t set owner= '沙雕' where id>109785 and id<=117104;   |
| update t set owner= '沙雕' where id>117104 and id<=124423;   |
| update t set owner= '沙雕' where id>124423 and id<=131742;   |
| update t set owner= '沙雕' where id>131742 and id<=139061;   |
| update t set owner= '沙雕' where id>139061 and id<=146380;   |
| update t set owner= '沙雕' where id>146380 and id<=153699;   |
| update t set owner= '沙雕' where id>153699 and id<=161018;   |
| update t set owner= '沙雕' where id>161018 and id<=168337;   |
| update t set owner= '沙雕' where id>168337 and id<=175656;   |
| update t set owner= '沙雕' where id>175656 and id<=182975;   |
| update t set owner= '沙雕' where id>182975 and id<=190294;   |
| update t set owner= '沙雕' where id>190294 and id<=197613;   |
| update t set owner= '沙雕' where id>197613 and id<=204932;   |
| update t set owner= '沙雕' where id>204932 and id<=212251;   |
| update t set owner= '沙雕' where id>212251 and id<=219570;   |
| update t set owner= '沙雕' where id>219570 and id<=226889;   |
| update t set owner= '沙雕' where id>226889 and id<=234208;   |
| update t set owner= '沙雕' where id>234208 and id<=241527;   |
| update t set owner= '沙雕' where id>241527 and id<=248846;   |
| update t set owner= '沙雕' where id>248846 and id<=256165;   |
| update t set owner= '沙雕' where id>256165 and id<=263484;   |
| update t set owner= '沙雕' where id>263484 and id<=270803;   |
| update t set owner= '沙雕' where id>270803 and id<=278122;   |
| update t set owner= '沙雕' where id>278122 and id<=285441;   |
| update t set owner= '沙雕' where id>285441 and id<=292760;   |
| update t set owner= '沙雕' where id>292760 and id<=300079;   |
| update t set owner= '沙雕' where id>300079 and id<=307398;   |
| update t set owner= '沙雕' where id>307398 and id<=314717;   |
| update t set owner= '沙雕' where id>314717 and id<=322036;   |
| update t set owner= '沙雕' where id>322036 and id<=329355;   |
| update t set owner= '沙雕' where id>329355 and id<=336674;   |
| update t set owner= '沙雕' where id>336674 and id<=343993;   |
| update t set owner= '沙雕' where id>343993 and id<=351312;   |
| update t set owner= '沙雕' where id>351312 and id<=358631;   |
| update t set owner= '沙雕' where id>358631 and id<=365950;   |
+--------------------------------------------------------------+
50 rows in set (0.00 sec)


 

 

 

 

这篇关于MySQL根据主键切割大事务(变相ROWID切片)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/182361

相关文章

SpringBoot+RustFS 实现文件切片极速上传的实例代码

《SpringBoot+RustFS实现文件切片极速上传的实例代码》本文介绍利用SpringBoot和RustFS构建高性能文件切片上传系统,实现大文件秒传、断点续传和分片上传等功能,具有一定的参考... 目录一、为什么选择 RustFS + SpringBoot?二、环境准备与部署2.1 安装 RustF

MySQL的JDBC编程详解

《MySQL的JDBC编程详解》:本文主要介绍MySQL的JDBC编程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录前言一、前置知识1. 引入依赖2. 认识 url二、JDBC 操作流程1. JDBC 的写操作2. JDBC 的读操作总结前言本文介绍了mysq

java.sql.SQLTransientConnectionException连接超时异常原因及解决方案

《java.sql.SQLTransientConnectionException连接超时异常原因及解决方案》:本文主要介绍java.sql.SQLTransientConnectionExcep... 目录一、引言二、异常信息分析三、可能的原因3.1 连接池配置不合理3.2 数据库负载过高3.3 连接泄漏

Linux下MySQL数据库定时备份脚本与Crontab配置教学

《Linux下MySQL数据库定时备份脚本与Crontab配置教学》在生产环境中,数据库是核心资产之一,定期备份数据库可以有效防止意外数据丢失,本文将分享一份MySQL定时备份脚本,并讲解如何通过cr... 目录备份脚本详解脚本功能说明授权与可执行权限使用 Crontab 定时执行编辑 Crontab添加定

Spring 中的切面与事务结合使用完整示例

《Spring中的切面与事务结合使用完整示例》本文给大家介绍Spring中的切面与事务结合使用完整示例,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考... 目录 一、前置知识:Spring AOP 与 事务的关系 事务本质上就是一个“切面”二、核心组件三、完

MySQL中On duplicate key update的实现示例

《MySQL中Onduplicatekeyupdate的实现示例》ONDUPLICATEKEYUPDATE是一种MySQL的语法,它在插入新数据时,如果遇到唯一键冲突,则会执行更新操作,而不是抛... 目录1/ ON DUPLICATE KEY UPDATE的简介2/ ON DUPLICATE KEY UP

MySQL分库分表的实践示例

《MySQL分库分表的实践示例》MySQL分库分表适用于数据量大或并发压力高的场景,核心技术包括水平/垂直分片和分库,需应对分布式事务、跨库查询等挑战,通过中间件和解决方案实现,最佳实践为合理策略、备... 目录一、分库分表的触发条件1.1 数据量阈值1.2 并发压力二、分库分表的核心技术模块2.1 水平分

Python与MySQL实现数据库实时同步的详细步骤

《Python与MySQL实现数据库实时同步的详细步骤》在日常开发中,数据同步是一项常见的需求,本篇文章将使用Python和MySQL来实现数据库实时同步,我们将围绕数据变更捕获、数据处理和数据写入这... 目录前言摘要概述:数据同步方案1. 基本思路2. mysql Binlog 简介实现步骤与代码示例1

使用shardingsphere实现mysql数据库分片方式

《使用shardingsphere实现mysql数据库分片方式》本文介绍如何使用ShardingSphere-JDBC在SpringBoot中实现MySQL水平分库,涵盖分片策略、路由算法及零侵入配置... 目录一、ShardingSphere 简介1.1 对比1.2 核心概念1.3 Sharding-Sp

MySQL 表空却 ibd 文件过大的问题及解决方法

《MySQL表空却ibd文件过大的问题及解决方法》本文给大家介绍MySQL表空却ibd文件过大的问题及解决方法,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考... 目录一、问题背景:表空却 “吃满” 磁盘的怪事二、问题复现:一步步编程还原异常场景1. 准备测试源表与数据