mysql分库分表,包含概念+具体实操,很细节~

2024-08-22 15:28

本文主要是介绍mysql分库分表,包含概念+具体实操,很细节~,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

    大家好,我是程序媛雪儿,今天咱们唠唠mysql分库分表。

是什么

    

    ​mysql分库分表主要是为了应对数据量或访问量过大而导致单个数据库或单个表的性能瓶颈而采取的一种数据库架构设计。通过将数据分布到多个数据库或表中,能有效地提升数据库的性能,提高并发处理能力,减少单点故障的风险。

    上面这个解释是文邹邹的官方解释,其实总的来看,这个概念有以下几个点

1、为了解决什么问题

2、采用了什么方法来解决这个问题

3、能达到什么效果

好了,我们带着这三个问题继续深入了解这个知识点。

分库分表时机(为了解决什么问题)

1、前提:项目业务数据逐渐增多,业务发展比较迅猛,单表的数据量达到1000w或20g以后

2、优化已解决不了性能问题(主从读写分离,查询索引都处理了不管用)

3、IO瓶颈、CPU瓶颈

拆分策略(用什么办法解决这个问题)

垂直分库

    ​根据业务将不同的表拆分到不同的库中,如上图,一个电商系统一般包括多个模块,比如用户模块、订单模块、商品模块等等,垂直分库就是把这几个模块拆到不同的数据库里

特点:

1、按业务对数据分级管理、维护、监控、扩展

2、在高并发下,提高磁盘IO和数据量连接数

垂直分表

    ​如上图:一个商品信息表里,包含商品id、商品名称、商品分类、商品品牌、商品标题、商品描述,一般来说,我们看商品的时候,只有商品id、商品名称、商品分类、商品品牌、商品标题这几个数据是常看的,我们可以把它称为热数据,但是只有点击详情,才会看商品描述,那么商品描述便是冷数据,我们可以采用垂直分表,把冷热数据拆分

拆分规则:冷热拆分

1、把不常用的字段单独放到一张表里

2、把text、blob等大字段拆出来放到附表中

特点

1、冷热数据分离

2、减少IO过度争抢,两表互不影响

因为把大字段,且不经常查询的数据分离出来,每次IO都是热数据,冷数据不显示,可以提高性能

水平分库

    ​如上图,我们要把商品订单的数据做水平分库,也就是将一个库的数据拆分到多个库中。

应用怎么知道自己查的数据从哪个库中找呢?

根据路由规则确定

方案一:根据id节点取模,id%3==0的放0库,id%3==1的放1库,id%3==2的放2库

方案二:范围路由,前100w条数据放0库 ,100w-200w的数据放1库,依此类推

特点:

1、解决了单库大数据,高并发的瓶颈问题

2、提高了系统的稳定性和可用性

水平分表

    ​将一个表的数据拆分到多个表中(这个看起来和水平分库很像对不对?水平分表和水平分库最大的不同是水平分表分出来的表格可以在同一个库里,而水平分库一定是在不同的数据库里的)

特点:

1、优化单一表数据量过大产生的性能问题

2、避免IO争抢并减少锁表的几率

分库分表的新问题

1、分布式事务一致性问题

2、跨节点关联查询

3、跨节点分页、排序函数

4、主键避重

分库分表的中间件

1、sharding-sphere

    这个中间件我是使用过的,很简单,基本操作是maven引入中间件,直接在application.yml配置就可以使用了。

导包

        <!-- 实现分库分表--><dependency><groupId>org.apache.shardingsphere</groupId><artifactId>shardingsphere-jdbc-core-spring-boot-starter</artifactId><version>5.2.0</version></dependency>

application.yml配置

  # 分库分表配置shardingsphere:# 数据源配置datasource:# 多数据源以逗号隔开即可names: yudadayudada:type: com.zaxxer.hikari.HikariDataSourcedriver-class-name: com.mysql.cj.jdbc.Driverjdbc-url: jdbc:mysql://xx.xx.xx.xx:xx/xxusername: rootpassword: xxxx# 规则配置rules:sharding:# 分片算法配置sharding-algorithms:# 自定义分片规则名answer-table-inline:type: INLINEprops:algorithm-expression: user_answer_$->{appId % 2}tables:user_answer:actual-data-nodes: yudada.user_answer_$->{0..1}# 分表策略table-strategy:standard:sharding-column: appIdsharding-algorithm-name: answer-table-inline

测试demo

@SpringBootTest
public class UserAnswerShardingTest {@Resourceprivate UserAnswerService userAnswerService;@Testpublic void test(){UserAnswer userAnswer1 = new UserAnswer();// 我们设置的是根据AppId分表的userAnswer1.setAppId(1L);userAnswer1.setUserId(1809119229891362817L);userAnswer1.setChoices("1");userAnswerService.save(userAnswer1);UserAnswer userAnswer2 = new UserAnswer();userAnswer2.setAppId(2L);userAnswer2.setUserId(1809119229891362817L);userAnswer2.setChoices("2");userAnswerService.save(userAnswer2);UserAnswer userAnswerServiceOne = userAnswerService.getOne(Wrappers.lambdaQuery(UserAnswer.class).eq(UserAnswer::getAppId, 1L));System.out.println(JSONUtil.toJsonStr(userAnswerServiceOne));UserAnswer userAnswerServiceTwo = userAnswerService.getOne(Wrappers.lambdaQuery(UserAnswer.class).eq(UserAnswer::getAppId, 2L));System.out.println(JSONUtil.toJsonStr(userAnswerServiceTwo));}

可以看出来使用是无痕的,代码中的写法不变

2、mycat

    欢迎大家关注我的微信公众号,程序媛雪儿,雪儿会在上面发布编程的知识碎片,也有雪儿博客地址,上面有详细系统的笔记,雪儿是全栈,但是公众号目前主要还是发后端的技术,以后可能也会涉及到一些前端的知识,我们下期见,拜拜~

这篇关于mysql分库分表,包含概念+具体实操,很细节~的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1096657

相关文章

MySQL双主搭建+keepalived高可用的实现

《MySQL双主搭建+keepalived高可用的实现》本文主要介绍了MySQL双主搭建+keepalived高可用的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,... 目录一、测试环境准备二、主从搭建1.创建复制用户2.创建复制关系3.开启复制,确认复制是否成功4.同

MyBatis 动态 SQL 优化之标签的实战与技巧(常见用法)

《MyBatis动态SQL优化之标签的实战与技巧(常见用法)》本文通过详细的示例和实际应用场景,介绍了如何有效利用这些标签来优化MyBatis配置,提升开发效率,确保SQL的高效执行和安全性,感... 目录动态SQL详解一、动态SQL的核心概念1.1 什么是动态SQL?1.2 动态SQL的优点1.3 动态S

Mysql表的简单操作(基本技能)

《Mysql表的简单操作(基本技能)》在数据库中,表的操作主要包括表的创建、查看、修改、删除等,了解如何操作这些表是数据库管理和开发的基本技能,本文给大家介绍Mysql表的简单操作,感兴趣的朋友一起看... 目录3.1 创建表 3.2 查看表结构3.3 修改表3.4 实践案例:修改表在数据库中,表的操作主要

go中空接口的具体使用

《go中空接口的具体使用》空接口是一种特殊的接口类型,它不包含任何方法,本文主要介绍了go中空接口的具体使用,具有一定的参考价值,感兴趣的可以了解一下... 目录接口-空接口1. 什么是空接口?2. 如何使用空接口?第一,第二,第三,3. 空接口几个要注意的坑坑1:坑2:坑3:接口-空接口1. 什么是空接

mysql出现ERROR 2003 (HY000): Can‘t connect to MySQL server on ‘localhost‘ (10061)的解决方法

《mysql出现ERROR2003(HY000):Can‘tconnecttoMySQLserveron‘localhost‘(10061)的解决方法》本文主要介绍了mysql出现... 目录前言:第一步:第二步:第三步:总结:前言:当你想通过命令窗口想打开mysql时候发现提http://www.cpp

MySQL大表数据的分区与分库分表的实现

《MySQL大表数据的分区与分库分表的实现》数据库的分区和分库分表是两种常用的技术方案,本文主要介绍了MySQL大表数据的分区与分库分表的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有... 目录1. mysql大表数据的分区1.1 什么是分区?1.2 分区的类型1.3 分区的优点1.4 分

MySQL错误代码2058和2059的解决办法

《MySQL错误代码2058和2059的解决办法》:本文主要介绍MySQL错误代码2058和2059的解决办法,2058和2059的错误码核心都是你用的客户端工具和mysql版本的密码插件不匹配,... 目录1. 前置理解2.报错现象3.解决办法(敲重点!!!)1. php前置理解2058和2059的错误

Mysql删除几亿条数据表中的部分数据的方法实现

《Mysql删除几亿条数据表中的部分数据的方法实现》在MySQL中删除一个大表中的数据时,需要特别注意操作的性能和对系统的影响,本文主要介绍了Mysql删除几亿条数据表中的部分数据的方法实现,具有一定... 目录1、需求2、方案1. 使用 DELETE 语句分批删除2. 使用 INPLACE ALTER T

MySQL INSERT语句实现当记录不存在时插入的几种方法

《MySQLINSERT语句实现当记录不存在时插入的几种方法》MySQL的INSERT语句是用于向数据库表中插入新记录的关键命令,下面:本文主要介绍MySQLINSERT语句实现当记录不存在时... 目录使用 INSERT IGNORE使用 ON DUPLICATE KEY UPDATE使用 REPLACE

MySQL Workbench 安装教程(保姆级)

《MySQLWorkbench安装教程(保姆级)》MySQLWorkbench是一款强大的数据库设计和管理工具,本文主要介绍了MySQLWorkbench安装教程,文中通过图文介绍的非常详细,对大... 目录前言:详细步骤:一、检查安装的数据库版本二、在官网下载对应的mysql Workbench版本,要是