分库分表后,测试小姐姐都哭了

2024-05-24 14:48
文章标签 测试 分库 分表 小姐姐

本文主要是介绍分库分表后,测试小姐姐都哭了,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

什么?你们的测试是小哥哥?那就不要往下看了,让他们怎么难怎么来。

建议

根据你的业务特点,单表 > 分区 > 单库分表 > 分库分表,在满足业务前提下,优先级从左到右,不接受任何反驳。嘿嘿

背景

做过分表的(单库分表或者分库分表)都知道,在你没有依赖任何中间件之前,使用Navicat或者其他类似工具操作MySQL,那将是灾难,如下图所示:

sharding table view

如果是类似取模这类简单算法分表还好说,能一眼根据分片键知道分表结,比如根据用户ID对128取模分表,那么用户ID为128的用户数据就在表tb_user_0中。但是如果是采用类似一致性hash算法或者更复杂的分表算法,那么我们首先需要利用程序根据分片键算出分表结果,然后再到Navicat中对该表进行CRUD。

刚才提到的只能搞定带有分片键的操作,对于那些没有带有分片键条件的操作,例如查询最新的10条数据,那真的只能呵呵了。开发尚且如此困难,测试小姐姐能不哭嘛。马云爸爸说:哪里有困难,哪里就有机会。所以,这就是你和测试小姐姐拉近机会、表现自己的时候。当然不是要你送下面这辆奔驰大G给小姐姐,毕竟不是每个人都是王思聪。不过利用我们所学,给测试小姐姐解决一些问题,还是可以的嘛(这种机会都不抓住,活该你单身):

本文要介绍的,可以优雅解决这个问题的工具就是 sharding-proxy(MyCAT也有类似工具,只是易用性简直就是渣渣)。话不多说,我们先来看看部署sharding-proxy前后使用Navicat访问MySQL的对比效果图,开不开森,激不激动:

image.png

所以,sharding-proxy能带来什么呢?先说优点吧:

  1. 完全屏蔽sharding细节,把它当做一张普通的表增删改查即可(分表算法集成在sharding-proxy的配置文件中,用户不需要care)

  2. 打开数据库后,不再是看到满屏的表,而是只有几张简单的表(如上图左侧所示)。

  3. 一个sharding-proxy可以代理多个数据源,测试只需要对接一个sharding-proxy即可。

再说缺点:

  1. 无法操作"设计表",即不能看到DDL。但是可以通过F6快捷键后show create table table_name查看表结果(以Navicat为例);

  2. sharding-sphere不支持的语法(非常有限),也不能在Navicat上操作。

是不是感觉很厉害的样子,OK,让我们花10分钟给测试小姐姐一个惊喜吧(部署sharding-proxy)。

sharding-proxy

部署sharding-proxy非常简单,只需如下几个简单的步骤。另外,本次部署以sharding-proxy-3.0.0版本为例。

下载

下载地址:https://github.com/sharding-sphere/sharding-sphere-doc/raw/master/dist/sharding-proxy-3.0.0.tar.gz

下载后解压,我们看到只有简单的三个目录:lib目录就是sharding-proxy核心代码,以及依赖的JAR包;bin目录就是存放启停脚本的;conf目录就是存放所有配置文件,包括sharding-proxy服务的配置文件、数据源以及sharding规则配置文件和项目日志配置文件。

lia目录没什么好说的。bin目录里面就是window或者Linux环境启停脚本。sharding-proxy启动的默认端口是3307,如果要自定义端口(比如3308),执行sh start.sh 3308即可(window环境修改start.bat即可)。所有重要的配置都在conf目录下。

配置

  • logback.xml

首先就是最简单的日志配置文件logback.xml,笔者对其简单的修改了一下,你可以任意自定义,这个没什么好说的,非常简单。

  • server.xml

接下来就是与sharding-proxy服务相关的配置文件server.yaml,笔者的配置文件如下所示:

orchestration:
  name: orchestration_afei
  overwrite: true
  registry:
    serverLists: 172.29.3.245:2181,172.29.3.245:2182,172.29.3.245:2183
    namespace: orchestration_afei

# 用户通过Navicat访问sharding-proxy的用户名密码
authentication:
  username: afei
  password: afei

# sharding-proxy相关配置,建议sql.show设置为true,方便定位问题
props:
  max.connections.size.per.query: 1
  acceptor.size: 16 
  executor.size: 16 
  proxy.transaction.enabled: false
  proxy.opentracing.enabled: false
  sql.show: true
  • config.xml

接下来就是最重要的数据源以及sharding规则配置文件config.xml了。需要说明的是,一个sharding-proxy实例能支持多个数据源,配置参考如下:

schemaName: afei

dataSources:
  afei:
    url: jdbc:mysql://172.29.2.239:3311/afei?serverTimezone=UTC&useSSL=false
    username: afei
    password: afei
    autoCommit: true
    connectionTimeout: 10000
    idleTimeout: 60000
    maxLifetime: 1800000
    maximumPoolSize: 50

shardingRule:
  tables:
    # tb_batch_trade_detail的分表算法是根据trade_id对128取模
    tb_batch_trade_detail:
      actualDataNodes: afei.tb_batch_trade_detail${0..127}
      tableStrategy:
        inline:
          shardingColumn: trade_id
          algorithmExpression: tb_batch_trade_detail${trade_id % 128}    
    # tb_repay_file_detail的分表算法是在RepayFileDetailShardingAlgorithm中自定义      
    tb_repay_file_detail:
      actualDataNodes: afei.tb_repay_file_detail${0..127}
      tableStrategy:
        standard:
          shardingColumn: project_no
          preciseAlgorithmClassName: com.afei.sharding.RepayFileDetailShardingAlgorithm
  bindingTables:

  # 默认数据库没有分的策略
  defaultDatabaseStrategy:
    none:
  # 默认表没有分的策略
  defaultTableStrategy:
    none:
  defaultKeyGeneratorClassName: io.shardingsphere.core.keygen.DefaultKeyGenerator

对应自定义分表算法,只需要将对应算法的class文件放到conf目录下即可,参考目录结构:

com
  ├── afei/sharding/RepayFileDetailShardingAlgorithm.class
config-pay.yaml
config-account.yaml
logback.xml
server.yaml

这个自定义分表算法的源码非常简单,参考sharding-sphere中的分表,实现自己的算法即可,参考源码:

import io.shardingsphere.api.algorithm.sharding.PreciseShardingValue;
import io.shardingsphere.api.algorithm.sharding.standard.PreciseShardingAlgorithm;
import java.util.Collection;

public class RepayFileDetailShardingAlgorithm implements PreciseShardingAlgorithm<String> {

    private static final int SHARDING_COUNT = 128;

    @Override
    public String doSharding(final Collection<String> availableTargetNames, final PreciseShardingValue<String> shardingValue) {
        String hashCode = String.valueOf(shardingValue.getValue().hashCode());
        long segment = Math.abs(Long.parseLong(hashCode)) % SHARDING_COUNT;

        for (String each : availableTargetNames) {
            if (each.equals( "tb_repay_file_detail"+segment )) {
                return each;
            }
        }
        throw new UnsupportedOperationException();
    }

}
  • Navicat

接下来只需要让测试小姐姐用Navicat连接上sharding-proxy即可:IP地址就是你部署sharding-proxy的地址,端口就是sharding-proxy服务的端口,默认3307。分库分表这些细节全部让sharding-proxy屏蔽的,是不是测试小姐姐会感觉你棒棒哒:

Navicat connect sharding proxy

这篇关于分库分表后,测试小姐姐都哭了的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/998715

相关文章

性能测试介绍

性能测试是一种测试方法,旨在评估系统、应用程序或组件在现实场景中的性能表现和可靠性。它通常用于衡量系统在不同负载条件下的响应时间、吞吐量、资源利用率、稳定性和可扩展性等关键指标。 为什么要进行性能测试 通过性能测试,可以确定系统是否能够满足预期的性能要求,找出性能瓶颈和潜在的问题,并进行优化和调整。 发现性能瓶颈:性能测试可以帮助发现系统的性能瓶颈,即系统在高负载或高并发情况下可能出现的问题

字节面试 | 如何测试RocketMQ、RocketMQ?

字节面试:RocketMQ是怎么测试的呢? 答: 首先保证消息的消费正确、设计逆向用例,在验证消息内容为空等情况时的消费正确性; 推送大批量MQ,通过Admin控制台查看MQ消费的情况,是否出现消费假死、TPS是否正常等等问题。(上述都是临场发挥,但是RocketMQ真正的测试点,还真的需要探讨) 01 先了解RocketMQ 作为测试也是要简单了解RocketMQ。简单来说,就是一个分

【测试】输入正确用户名和密码,点击登录没有响应的可能性原因

目录 一、前端问题 1. 界面交互问题 2. 输入数据校验问题 二、网络问题 1. 网络连接中断 2. 代理设置问题 三、后端问题 1. 服务器故障 2. 数据库问题 3. 权限问题: 四、其他问题 1. 缓存问题 2. 第三方服务问题 3. 配置问题 一、前端问题 1. 界面交互问题 登录按钮的点击事件未正确绑定,导致点击后无法触发登录操作。 页面可能存在

业务中14个需要进行A/B测试的时刻[信息图]

在本指南中,我们将全面了解有关 A/B测试 的所有内容。 我们将介绍不同类型的A/B测试,如何有效地规划和启动测试,如何评估测试是否成功,您应该关注哪些指标,多年来我们发现的常见错误等等。 什么是A/B测试? A/B测试(有时称为“分割测试”)是一种实验类型,其中您创建两种或多种内容变体——如登录页面、电子邮件或广告——并将它们显示给不同的受众群体,以查看哪一种效果最好。 本质上,A/B测

分库分表核心理念

文章目录 分库,分表,分库分表什么时候分库?什么时候分表?什么时候既分库又分表?横向拆分 & 纵向拆分 分表算法Range 范围Hash 取模一致性 Hash斐波那契散列 严格雪崩标准(SAC)订单分库分表实战全局 ID 的生成UUID基于某个单表做自增主键雪花算法时间回拨问题 分库分表迁移停机迁移方案双写迁移方案 分库分表带来的问题参考 & 推荐文章 分库,分表,分库分表

Verybot之OpenCV应用一:安装与图像采集测试

在Verybot上安装OpenCV是很简单的,只需要执行:         sudo apt-get update         sudo apt-get install libopencv-dev         sudo apt-get install python-opencv         下面就对安装好的OpenCV进行一下测试,编写一个通过USB摄像头采

BIRT 报表的自动化测试

来源:http://www.ibm.com/developerworks/cn/opensource/os-cn-ecl-birttest/如何为 BIRT 报表编写自动化测试用例 BIRT 是一项很受欢迎的报表制作工具,但目前对其的测试还是以人工测试为主。本文介绍了如何对 BIRT 报表进行自动化测试,以及在实际项目中的一些测试实践,从而提高了测试的效率和准确性 -------

可测试,可维护,可移植:上位机软件分层设计的重要性

互联网中,软件工程师岗位会分前端工程师,后端工程师。这是由于互联网软件规模庞大,从业人员众多。前后端分别根据各自需求发展不一样的技术栈。那么上位机软件呢?它规模小,通常一个人就能开发一个项目。它还有必要分前后端吗? 有必要。本文从三个方面论述。分别是可测试,可维护,可移植。 可测试 软件黑盒测试更普遍,但很难覆盖所有应用场景。于是有了接口测试、模块化测试以及单元测试。都是通过降低测试对象

day45-测试平台搭建之前端vue学习-基础4

目录 一、生命周期         1.1.概念         1.2.常用的生命周期钩子         1.3.关于销毁Vue实例         1.4.原理​编辑         1.5.代码 二、非单文件组件         2.1.组件         2.2.使用组件的三大步骤         2.3.注意点         2.4.关于VueComponen

如何成为一个优秀的测试工程师

链接地址:http://blog.csdn.net/KerryZhu/article/details/5250504 我一直在想,如何将自己的测试团队打造成世界一流的团队?流程、测试自动化、创新、扁平式管理、国际标准制定、测试社区贡献、…… 但首先一点是明确的,就是要将每一个测试工程师打造成优秀的测试工程师,优秀的团队必须由优秀的成员构成。所以,先讨论“如何成为一个优秀的测试工程师”,