本文主要是介绍sharding sphere 4.0.0-RC1版本 按年分表(自动建表),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
1. sharding sphere 4.0.0-RC1版本 按年分表(自动建表)
1.1. 概述
上篇文章留了个坑,sharding sphere本身没有提供自动建表功能,但我想了想,我们可以绕过它本身的设定,它本身的数据分片是通过分片算法实现,如下继承一些接口PreciseShardingAlgorithm
、RangeShardingAlgorithm
等,在范围查询的时候,原本我们需要从availableTargetNames
参数去判断已存在的表,从而做到不查不存在的表,插入时也是同样的道理
但是事实上我们可以不需要使用availableTargetNames
参数,在系统初始化的时候自行去查询已存在的表再缓存起来,当然过程中我也踩了些坑,因为LogShardingAlgorithm
的加载过程和我读数据库的顺序不好控制,理论上我可以随时连接数据库读,但我又需要读到spring加载的配置环境再决定连哪个数据库,不断的测试后还是不好安排,最后采取了如下的方式,在第一次调用分片算法的时候读取并缓存表
这样做后实现的效果就是在做插入数据的时候,我判断日期为2020年的表是否在缓存中,在则说明数据库存在该表,否则我先创建该表,再把该表加入缓存;而做范围查询的时候,我们容易请求参数超范围,则从缓存中的表挑选,这些表才是存在的,比如你数据库存在2018,2019,2020年的表,你查询条件是2017~2021,那么也只会查18,19,20三张表
/*** @author: laoliangliang* @description: 日志分片* @create: 2020/1/2 10:19**/
@Slf4j
public class LogShardingAlgorithm implements PreciseShardingAlgorithm, RangeShardingAlgorithm<Integer> {/*** 缓存存在的表*/private List<String> tables;private final String systemLogHead = "system_log_";private Boolean isLoad = false;@Overridepublic String doSharding(Collection availableTargetNames, PreciseShardingValue shardingValue) {if (!isLoad) {tables = DBUtil.getAllSystemLogTable();isLoad = true;}String target = shardingValue.getValue().toString();String year = target.substring(target.lastIndexOf("_") 1, target.lastIndexOf("_") 5);if (!tables.contains(systemLogHead year)) {DBUtil.createLogTable(year);tables.add(year);}return shardingValue.getLogicTableName() "_" year;}@Overridepublic Collection<String> doSharding(Collection<String> availableTargetNames, RangeShardingValue<Integer> shardingValue) {if (!isLoad) {tables = DBUtil.getAllSystemLogTable();isLoad = true;}Collection<String> availables = new ArrayList<>();Range valueRange = shardingValue.getValueRange();for (String target : tables) {Integer shardValue = Integer.parseInt(target.substring(target.lastIndexOf("_") 1, target.lastIndexOf("_") 5));if (valueRange.hasLowerBound()) {String lowerStr = valueRange.lowerEndpoint().toString();Integer start = Integer.parseInt(lowerStr.substring(0, 4));if (start - shardValue > 0) {continue;}}if (valueRange.hasUpperBound()) {String upperStr = valueRange.upperEndpoint().toString();Integer end = Integer.parseInt(upperStr.substring(0, 4));if (end - shardValue < 0) {continue;}}availables.add(target);}return availables;}
}
1.2. 技巧
- 这里要读取
system_log_2019
,system_log_2020
表的表名只需查询mysql的information_schema.TABLES
,如:
select TABLE_NAME from information_schema.`TABLES`
where TABLE_NAME like 'system_log_%'
欢迎关注公众号,回复“教学视频”一起学习进步
这篇关于sharding sphere 4.0.0-RC1版本 按年分表(自动建表)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!