MySQL分库分表多维度查询——全表冗余

2023-10-12 17:30
文章标签 mysql 查询 全表 database 分库 分表 冗余 多维度

本文主要是介绍MySQL分库分表多维度查询——全表冗余，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

分表分库面临的问题

MySQL分库分表,一般只能按照一个维度进行查询.
以订单表为例, 按照用户ID mod 64 分成 64个数据库.
按照用户的维度查询很快,因为最终的查询落在一台服务器上.

非分区逻辑字段查询

但是如果按照商户的维度查询,则代价非常高.
需要查询全部64台服务器.

分页查询

在分页的情况下,更加恶化.
比如某个商户查询第10页的数据(按照订单的创建时间).需要在每台数据库服务器上查询前100条数据,程序收到 64*100 条数据,然后按照订单的创建时间排序,截取排名90-100号的10条记录返回,然后抛弃其余的6390条记录.如果查询的是第100页,第1000页,则对数据库IO,网络,中间件CPU,都是不小的压力.

常见解决方案

分库分表之后,为了应对多维度查询,很多情况下会引入冗余.

  • 全表冗余

全表冗余

比如两个集群,一个按照用户ID分库分表,另外一个按照商户ID分库分表.
这样多维度查询的时候,各查各的.
但是有几个问题,一样不好解决.
比如,
每扩展一个维度,就需要引入一个集群.
集群间的数据,如何保证一致性.
冗余占用大量磁盘空间.
从朋友那里看到的订单表结构.做冗余会占用大量的磁盘空间.

用户ID分表分库和商户ID分表分库实际操作

关键问题：保持两份数据的一致性。
通过消息中间件保持事务操作，然后分表进行入库操作，保持最终一致性。

案例
create table TS_ORDER  
(  ORDER_ID        NUMBER(8) not null,  SN              VARCHAR2(50),  MEMBER_ID       NUMBER(8),  STATUS          NUMBER(2),  PAY_STATUS      NUMBER(2),  SHIP_STATUS     NUMBER(2),  SHIPPING_ID     NUMBER(8),  SHIPPING_TYPE   VARCHAR2(255),  SHIPPING_AREA   VARCHAR2(255),  PAYMENT_ID      NUMBER(8),  PAYMENT_NAME    VARCHAR2(50),  PAYMENT_TYPE    VARCHAR2(50),  PAYMONEY        NUMBER(20,2),  CREATE_TIME     NUMBER(20) not null,  SHIP_NAME       VARCHAR2(255),  SHIP_ADDR       VARCHAR2(255),  SHIP_ZIP        VARCHAR2(20),  SHIP_EMAIL      VARCHAR2(50),  SHIP_MOBILE     VARCHAR2(50),  SHIP_TEL        VARCHAR2(50),  SHIP_DAY        VARCHAR2(255),  SHIP_TIME       VARCHAR2(255),  IS_PROTECT      VARCHAR2(1),  PROTECT_PRICE   NUMBER(20,2),  GOODS_AMOUNT    NUMBER(20,2),  SHIPPING_AMOUNT NUMBER(20,2),  ORDER_AMOUNT    NUMBER(20,2),  WEIGHT          NUMBER(20,2),  GOODS_NUM       NUMBER(8),  GAINEDPOINT     NUMBER(11) default 0,  CONSUMEPOINT    NUMBER(11) default 0,  DISABLED        VARCHAR2(1),  DISCOUNT        NUMBER(20,2),  IMPORTED        NUMBER(2) default 0,  PIMPORTED       NUMBER(2) default 0,  COMPLETE_TIME   NUMBER(11) default 0,  CANCEL_REASON   VARCHAR2(255),  SIGNING_TIME    NUMBER(11),  THE_SIGN        VARCHAR2(255),  ALLOCATION_TIME NUMBER(11),  SHIP_PROVINCEID NUMBER(11),  SHIP_CITYID     NUMBER(11),  SHIP_REGIONID   NUMBER(11),  SALE_CMPL       NUMBER(2),  SALE_CMPL_TIME  NUMBER(11),  DEPOTID         NUMBER(11),  ADMIN_REMARK    VARCHAR2(1000),  COMPANY_CODE    VARCHAR2(32),  PARENT_SN       VARCHAR2(50),  REMARK          VARCHAR2(100),  GOODS           CLOB,  ORIGINAL_AMOUNT NUMBER(20,2),  IS_ONLINE       CHAR(1),  IS_COMMENTED    CHAR(1) default 0,  ORDER_FLAG      CHAR(1) default 1  
)

可以试试用表代替索引的方法.
1.分库分表
2.最终一致性
3.用表代替索引的功能
在这里插入图片描述
首先,还是基于分库分表.订单表按照用户ID mod 64 分到不同的服务器上(按照查询最多的维度分)。

数据库服务器1 的数据库名称为 db_1
数据库服务器2 的数据库名称为 db_2
…

以db_1为例,创建如下表
1.订单表
TS_ORDER_1 分区表,每个月一个分区.

2.事务表
create table tran_log_1(
tran_id bigint primary key,
param varchar(2000)
);
分区表,每个月一个分区.

3.消息表
create table msg_log_1(
tran_id bigint,
shardKey varchar(20) not null,
primary key(tran_id,shardKey)
);
分区表,每个月一个分区.

4.维度索引表
create table shard_shop_1(
id bigint primary key auto_increment,
shopid int,
ts timestamp,
state int,
dbid int,
orderid bigint,
index(shopid,ts,state)
);
分区表,每个月一个分区.

关于使用事务表,消息表实现分库分表最终一致性请参考
http://blog.itpub.net/29254281/viewspace-1819422/

关于集群主键生成服务请参考
http://blog.itpub.net/29254281/viewspace-1811711/

订单创建的流程
Web服务器接收到用户订单,首先通过RPC获取一个事务ID(tran_id).
用事务ID mod 64 找到数据库服务器,
将事务ID,参数写入tran_log 表,
然后将事务ID,参数写入消息队列.
如果写入消息队列成功,则提交事务.否则回滚事务.
此时就可以返回用户界面.

后端处理服务收到消息队列的信息,首先查询tran_log 表,是否存在这个事务ID,如果不存在则不予处理.
然后将队列的消息,分为两个维度分别处理,一个是用户维度,一个是商户维度.
作为用户维度,
先根据用户ID mod 64 找到最终落地的数据库,查询那个数据库的消息表msg_log,在用户维度,是否存在这个事务ID,如果存在,则不予处理.
(select count(*) from msg_log_XX where shardKey=‘订单创建:用户维度’ and tran_id=?)
如果不存在,则开启一个事务
插入订单表,我觉得可以用tran_id直接作为订单的ID,
并且插入消息表 insert msg_log_XX(tran_id,shardKey) values(?,‘订单创建:用户维度’);
提交事务,commit.

作为商户维度,
则根据商户ID mod 64 找到最终的数据库,和用户维度的数据库,可能不是同一台服务器.
同样,也是先查询落地数据库的消息表,
(select count(*) from msg_log_XXX where shardKey=‘订单创建:商户维度’ and tran_id=?)
如果不存在记录,则开启事务,
插入维度索引表,
insert into shard_shop_XXX（shopid,ts,state,dbid,orderid) values(…)
shopid,ts,state 商户ID,订单时间,订单状态都是根据订单的原始信息.
dbid 指的是 根据用户维度(主维度),订单数据所在的数据库ID,
orderid 指的是 在用户维度(主维度),订单表的主键.

插入消息表,insert msg_log_XX(tran_id,shardKey) values(?,‘订单创建:商户维度’);
最后提交.

这样,作为商户维度查询的时候,先根据商户的ID mod 64 找到 维度索引表,获取该商户的订单信息
select * from shard_shop_1 where shopid=? and state=2 order by ts limit 300,10;
获取的信息可能如下
在这里插入图片描述
可以看到,符合条件的订单信息,分别来自 服务器1,2,16,32,64
获取了这部分信息,就可以直接去这些服务器上取数据,并且是主键查询,速度很快.

每隔一段时间,由后台程序,查看 tran_log和msg_log,如果发现有缺失的数据,则进行事务补偿.

扩展的时候,则新增维度索引表即可.

因为所有的表,都是按月的分区表,可以将过去的冷数据,在一个服务器集中存放,这个实例就同时存放64个数据库.毕竟都是冷数据,访问量很小.
能分还要能合.比如:

参考文章:
http://blog.itpub.net/29254281/viewspace-2086198/

这篇关于MySQL分库分表多维度查询——全表冗余的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/197345。

相关文章

SQL中的外键约束

SQL中的外键约束

外键约束用于表示两张表中的指标连接关系。外键约束的作用主要有以下三点： 1.确保子表中的某个字段（外键）只能引用父表中的有效记录2.主表中的列被删除时，子表中的关联列也会被删除3.主表中的列更新时，子表中的关联元素也会被更新 子表中的元素指向主表 以下是一个外键约束的实例展示
阅读更多...
基于MySQL Binlog的Elasticsearch数据同步实践

基于MySQL Binlog的Elasticsearch数据同步实践

一、为什么要做 随着马蜂窝的逐渐发展，我们的业务数据越来越多，单纯使用 MySQL 已经不能满足我们的数据查询需求，例如对于商品、订单等数据的多维度检索。 使用 Elasticsearch 存储业务数据可以很好的解决我们业务中的搜索需求。而数据进行异构存储后，随之而来的就是数据同步的问题。 二、现有方法及问题 对于数据同步，我们目前的解决方案是建立数据中间表。把需要检索的业务数据，统一放到一张M
阅读更多...
如何去写一手好SQL

如何去写一手好SQL

MySQL性能 最大数据量 抛开数据量和并发数，谈性能都是耍流氓。MySQL没有限制单表最大记录数，它取决于操作系统对文件大小的限制。 《阿里巴巴Java开发手册》提出单表行数超过500万行或者单表容量超过2GB，才推荐分库分表。性能由综合因素决定，抛开业务复杂度，影响程度依次是硬件配置、MySQL配置、数据表设计、索引优化。500万这个值仅供参考，并非铁律。 博主曾经操作过超过4亿行数据
阅读更多...
性能分析之MySQL索引实战案例

性能分析之MySQL索引实战案例

文章目录 一、前言二、准备三、MySQL索引优化四、MySQL 索引知识回顾五、总结 一、前言 在上一讲性能工具之 JProfiler 简单登录案例分析实战中已经发现SQL没有建立索引问题，本文将一起从代码层去分析为什么没有建立索引？ 开源ERP项目地址：https://gitee.com/jishenghua/JSH_ERP 二、准备 打开IDEA找到登录请求资源路径位置
阅读更多...
MySQL数据库宕机，启动不起来，教你一招搞定！

MySQL数据库宕机，启动不起来，教你一招搞定！

作者介绍：老苏，10余年DBA工作运维经验，擅长Oracle、MySQL、PG、Mongodb数据库运维（如安装迁移，性能优化、故障应急处理等）公众号：老苏畅谈运维欢迎关注本人公众号，更多精彩与您分享。 MySQL数据库宕机，数据页损坏问题，启动不起来，该如何排查和解决，本文将为你说明具体的排查过程。 查看MySQL error日志 查看 MySQL error日志，排查哪个表（表空间
阅读更多...
活用c4d官方开发文档查询代码

活用c4d官方开发文档查询代码

当你问AI助手比如豆包，如何用python禁止掉xpresso标签时候，它会提示到 这时候要用到两个东西。https://developers.maxon.net/论坛搜索和开发文档 比如这里我就在官方找到正确的id描述 然后我就把参数标签换过来
阅读更多...
MySQL高性能优化规范

MySQL高性能优化规范

前言：      笔者最近上班途中突然想丰富下自己的数据库优化技能。于是在查阅了多篇文章后，总结出了这篇！ 数据库命令规范 所有数据库对象名称必须使用小写字母并用下划线分割 所有数据库对象名称禁止使用mysql保留关键字（如果表名中包含关键字查询时，需要将其用单引号括起来） 数据库对象的命名要能做到见名识意，并且最后不要超过32个字符 临时库表必须以tmp_为前缀并以日期为后缀，备份
阅读更多...
[MySQL表的增删改查-进阶]

[MySQL表的增删改查-进阶]

🌈个人主页：努力学编程’ ⛅个人推荐： c语言从初阶到进阶 JavaEE详解 数据结构 ⚡学好数据结构，刷题刻不容缓：点击一起刷题 🌙心灵鸡汤：总有人要赢，为什么不能是我呢 💻💻💻数据库约束 🔭🔭🔭约束类型 not null: 指示某列不能存储 NULL 值unique: 保证某列的每行必须有唯一的值default: 规定没有给列赋值时的默认值.primary key:
阅读更多...
MySQL-CRUD入门1

MySQL-CRUD入门1

文章目录 认识配置文件client节点mysql节点mysqld节点 数据的添加(Create)添加一行数据添加多行数据两种添加数据的效率对比 数据的查询(Retrieve)全列查询指定列查询查询中带有表达式关于字面量关于as重命名 临时表引入distinct去重order by 排序关于NULL 认识配置文件 在我们的MySQL服务安装好了之后, 会有一个配置文件, 也就
阅读更多...
Java 连接Sql sever 2008

Java 连接Sql sever 2008

Java 连接Sql sever 2008 /Sql sever 2008 R2 import java.sql.Connection; import java.sql.DriverManager; import java.sql.ResultSet; import java.sql.Statement; public class TestJDBC
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2