Mysql在线安全变更工具 gh-ost

2024-09-06 13:36

本文主要是介绍Mysql在线安全变更工具 gh-ost,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

gh-ost(GitHub Online Schema Translater)是一个用于安全地进行 MySQL 数据库表结构变更的工具,专门为在线数据库迁移而设计。它的主要优点是可以在不中断业务的情况下,不影响数据库的可用性和性能,进行表结构的修改。

主要特点

  1. 在线迁移gh-ost 允许在高负载的生产环境中进行表结构的更改,而不需要锁定表,确保数据库的可用性。

  2. 渐进式复制:通过逐步复制行,gh-ost 可以在针对大量数据的情况下,避免短时间内的负载高峰。

  3. 安全性:它具备自动回滚功能,如果迁移过程中出现问题,可以安全地回滚到原始状态。

  4. 编程和操作简便:工具使用简单、直观,与 MySQL 客户端兼容,支持使用 SQL 语句进行表结构的更改。

  5. 多种配置选项:支持多种选项用于配置操作,例如并行迁移、最大移动速度等。

使用场景

  • 发布新字段:添加新的列而不影响应用的访问。
  • 修改现有字段类型:安全地改变列的数据类型,比如从 VARCHARTEXT
  • 重命名列:而不影响运行中的系统。

基本用法

  1. 安装:可以通过 github 下载可执行文件,或使用 Homebrew(在 macOS 上)进行安装。

    brew install gh-ost
    
  2. 基本命令
    以下是一个使用 gh-ost 进行表结构变更的基本示例:

    gh-ost \
    --max-load=Threads_running=25 \
    --critical-load=Threads_running=1000 \
    --host=127.0.0.1 \
    --user=username \
    --password=your_password \
    --database=your_database \
    --table=your_table \
    --alter="ADD COLUMN new_col INT DEFAULT 0" \
    --execute
    

    这个命令将向 your_table 表中添加一个名为 new_col 的新列,字段类型为 INT,默认值为 0。

配置选项

  • --max-load:指定允许的最大负载。
  • --critical-load:指定触发回滚的负载。
  • --host--user--password:数据库连接信息。
  • --database--table:要修改的数据库和表名。
  • --alter:指定 ALTER 语句。
  • --execute:表示执行迁移;如果不加这个选项,则只进行干运行(dry run),不实际执行。

gh-ost 数据迁移流程

1. 准备与初始化
  • 安装与配置:确保你的 MySQL 数据库已启用二进制日志(binlog),并安装 gh-ost 工具。
  • 参数设置:使用合适的参数启动 gh-ost,包括连接信息、要迁移的表、变更语句等。
2. 创建临时表
  • 临时表的结构gh-ost 首先会创建一个新的临时表,并按照你的 ALTER 语句的定义,将原有表的结构复制到临时表中
  • 开始复制数据:临时表一旦创建,gh-ost 即可开始将原始表中的现有数据逐行复制到临时表中。
3. 数据复制与变更监控
  • 逐行复制gh-ost 以增量的方式逐行将原始表的数据复制到临时表,这个复制过程是渐进的,确保了对数据库的负载最低。

  • 使用事务隔离:在数据复制的过程中,gh-ost 使用 REPEATABLE READ 事务隔离级别。这意味着在数据复制期间,原始表的读取是一个快照,不会受到其他事务的影响。

  • 监控二进制日志(binlog)

    • 同时,gh-ost 启动一个线程,实时监控 MySQL 的 binlog,捕获所有对原始表的变更(包括 INSERT、UPDATE、DELETE)。
    • 这允许 gh-ost 捕获到在数据复制过程中对原始表的任何更新。
4. 实时同步变更
  • 处理变更

    • 任何在数据复制过程中对原始表的变更(例如:INSERT 或 UPDATE)都会被 gh-ost 监控到并记录在 binlog 中。
    • gh-ost 会将这些变化实时应用到临时表中(不会等到复制完成后,再处理变更数据),确保临时表里的数据与原始表保持同步。
  • 最终更新操作

    • 对于原始表的更新操作,如果在复制到某一行时,该行数据已经被修改,gh-ost 将依赖于二进制日志来更新临时表,以阻止出现数据不一致的情况。
5. 表切换
  • 完成复制与更新

    • 一旦所有的数据都已复制,并且所有的二进制日志变更均已同步到临时表,gh-ost 将进行最后的检查。
  • 原子重命名

    • gh-ost 进行原子操作,将原始表重命名为备份名称(例如:your_table_old),然后将临时表重命名为原始表的名称(例如:your_table)。
    • 这一过程确保在任何时刻,数据库中的数据都是一致的,并且整个迁移操作对外界是透明的。
6. 清理与回滚
  • 删除旧表:如果配置允许,gh-ost 可以安全删除旧表,以释放资源。
  • 回滚机制
    • 如果在迁移过程中发生错误,gh-ost 会提供回滚功能,能够安全地将数据库恢复到原始状态,从而确保错误不会影响数据库的运作和数据的完整性。

总结

gh-ost 通过以上步骤实现了在线、安全、逐渐的 MySQL 数据迁移。其设计保证了在整个过程中,数据的一致性和准确性,以及对生产系统的影响最小。利用事务隔离和二进制日志捕获gh-ost 确保所有变更都在迁移过程中得以有效处理,最终实现平滑的表结构更新。

这篇关于Mysql在线安全变更工具 gh-ost的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1142148

相关文章

SQL BETWEEN 的常见用法小结

《SQLBETWEEN的常见用法小结》BETWEEN操作符是SQL中非常有用的工具,它允许你快速选取某个范围内的值,本文给大家介绍SQLBETWEEN的常见用法,感兴趣的朋友一起看看吧... 在SQL中,BETWEEN是一个操作符,用于选取介于两个值之间的数据。它包含这两个边界值。BETWEEN操作符常用

MySQL索引的优化之LIKE模糊查询功能实现

《MySQL索引的优化之LIKE模糊查询功能实现》:本文主要介绍MySQL索引的优化之LIKE模糊查询功能实现,本文通过示例代码给大家介绍的非常详细,感兴趣的朋友一起看看吧... 目录一、前缀匹配优化二、后缀匹配优化三、中间匹配优化四、覆盖索引优化五、减少查询范围六、避免通配符开头七、使用外部搜索引擎八、分

MySql match against工具详细用法

《MySqlmatchagainst工具详细用法》在MySQL中,MATCH……AGAINST是全文索引(Full-Textindex)的查询语法,它允许你对文本进行高效的全文搜素,支持自然语言搜... 目录一、全文索引的基本概念二、创建全文索引三、自然语言搜索四、布尔搜索五、相关性排序六、全文索引的限制七

基于Java实现回调监听工具类

《基于Java实现回调监听工具类》这篇文章主要为大家详细介绍了如何基于Java实现一个回调监听工具类,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录监听接口类 Listenable实际用法打印结果首先,会用到 函数式接口 Consumer, 通过这个可以解耦回调方法,下面先写一个

数据库面试必备之MySQL中的乐观锁与悲观锁

《数据库面试必备之MySQL中的乐观锁与悲观锁》:本文主要介绍数据库面试必备之MySQL中乐观锁与悲观锁的相关资料,乐观锁适用于读多写少的场景,通过版本号检查避免冲突,而悲观锁适用于写多读少且对数... 目录一、引言二、乐观锁(一)原理(二)应用场景(三)示例代码三、悲观锁(一)原理(二)应用场景(三)示例

使用Python构建一个Hexo博客发布工具

《使用Python构建一个Hexo博客发布工具》虽然Hexo的命令行工具非常强大,但对于日常的博客撰写和发布过程,我总觉得缺少一个直观的图形界面来简化操作,下面我们就来看看如何使用Python构建一个... 目录引言Hexo博客系统简介设计需求技术选择代码实现主框架界面设计核心功能实现1. 发布文章2. 加

JS+HTML实现在线图片水印添加工具

《JS+HTML实现在线图片水印添加工具》在社交媒体和内容创作日益频繁的今天,如何保护原创内容、展示品牌身份成了一个不得不面对的问题,本文将实现一个完全基于HTML+CSS构建的现代化图片水印在线工具... 目录概述功能亮点使用方法技术解析延伸思考运行效果项目源码下载总结概述在社交媒体和内容创作日益频繁的

SQL表间关联查询实例详解

《SQL表间关联查询实例详解》本文主要讲解SQL语句中常用的表间关联查询方式,包括:左连接(leftjoin)、右连接(rightjoin)、全连接(fulljoin)、内连接(innerjoin)、... 目录简介样例准备左外连接右外连接全外连接内连接交叉连接自然连接简介本文主要讲解SQL语句中常用的表

SQL server配置管理器找不到如何打开它

《SQLserver配置管理器找不到如何打开它》最近遇到了SQLserver配置管理器打不开的问题,尝试在开始菜单栏搜SQLServerManager无果,于是将自己找到的方法总结分享给大家,对SQ... 目录方法一:桌面图标进入方法二:运行窗口进入方法三:查找文件路径方法四:检查 SQL Server 安

MySQL 中的 LIMIT 语句及基本用法

《MySQL中的LIMIT语句及基本用法》LIMIT语句用于限制查询返回的行数,常用于分页查询或取部分数据,提高查询效率,:本文主要介绍MySQL中的LIMIT语句,需要的朋友可以参考下... 目录mysql 中的 LIMIT 语句1. LIMIT 语法2. LIMIT 基本用法(1) 获取前 N 行数据(