Mybatis Plus快速重构真批量sql入库操作

2024-09-08 02:52

本文主要是介绍Mybatis Plus快速重构真批量sql入库操作,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Mybatis快速重构真批量sql入库操作

基本思路

重构mybatis默认方法saveBatch和saveOrUpdateBatch的实现

基本步骤
  1. 真批量保存实现类InsertBatchMethod
  2. 真批量更新实现类MysqlInsertOrUpdateBath
  3. 注册InsertBatchMethod和MysqlInsertOrUpdateBath到EasySqlInjector
  4. 注册EasySqlInjector到Mybatis配置类
  5. 实现自定义RootMapper
  6. 要实现真批量操作的实体类的Mapper继承RootMapper
  7. 自定义MyServiceImpl实现类
  8. 实体类ServiceImpl继承MyServiceImpl
  9. 批量方法的使用
详细步骤
  1. 真批量保存实现类InsertBatchMethod

    import com.baomidou.mybatisplus.core.injector.AbstractMethod;
    import com.baomidou.mybatisplus.core.metadata.TableInfo;
    import lombok.extern.slf4j.Slf4j;
    import org.apache.ibatis.executor.keygen.NoKeyGenerator;
    import org.apache.ibatis.mapping.MappedStatement;
    import org.apache.ibatis.mapping.SqlSource;/*** 批量插入方法实现*/
    @Slf4j
    public class InsertBatchMethod extends AbstractMethod {@Overridepublic MappedStatement injectMappedStatement(Class<?> mapperClass, Class<?> modelClass, TableInfo tableInfo) {final String sql = "<script>insert into %s %s values %s</script>";final String fieldSql = prepareFieldSql(tableInfo);final String valueSql = prepareValuesSql(tableInfo);final String sqlResult = String.format(sql, tableInfo.getTableName(), fieldSql, valueSql);log.debug("sqlResult----->{}", sqlResult);SqlSource sqlSource = languageDriver.createSqlSource(configuration, sqlResult, modelClass);// 第三个参数必须和RootMapper的自定义方法名一致return this.addInsertMappedStatement(mapperClass, modelClass, "insertBatch", sqlSource, new NoKeyGenerator(), null, null);}private String prepareFieldSql(TableInfo tableInfo) {StringBuilder fieldSql = new StringBuilder();fieldSql.append(tableInfo.getKeyColumn()).append(",");tableInfo.getFieldList().forEach(x -> {fieldSql.append(x.getColumn()).append(",");});fieldSql.delete(fieldSql.length() - 1, fieldSql.length());fieldSql.insert(0, "(");fieldSql.append(")");return fieldSql.toString();}private String prepareValuesSql(TableInfo tableInfo) {final StringBuilder valueSql = new StringBuilder();valueSql.append("<foreach collection=\"list\" item=\"item\" index=\"index\" open=\"(\" separator=\"),(\" close=\")\">");valueSql.append("#{item.").append(tableInfo.getKeyProperty()).append("},");tableInfo.getFieldList().forEach(x -> valueSql.append("#{item.").append(x.getProperty()).append("},"));valueSql.delete(valueSql.length() - 1, valueSql.length());valueSql.append("</foreach>");return valueSql.toString();}
    }
    
  2. 真批量更新实现类MysqlInsertOrUpdateBath

    import com.baomidou.mybatisplus.core.injector.AbstractMethod;
    import com.baomidou.mybatisplus.core.metadata.TableInfo;
    import org.apache.ibatis.executor.keygen.NoKeyGenerator;
    import org.apache.ibatis.mapping.MappedStatement;
    import org.apache.ibatis.mapping.SqlSource;
    import org.springframework.util.StringUtils;public class MysqlInsertOrUpdateBath extends AbstractMethod {@Overridepublic MappedStatement injectMappedStatement(Class<?> mapperClass, Class<?> modelClass, TableInfo tableInfo) {final String sql = "<script>insert into %s %s values %s ON DUPLICATE KEY UPDATE %s</script>";final String tableName = tableInfo.getTableName();final String filedSql = prepareFieldSql(tableInfo);final String modelValuesSql = prepareModelValuesSql(tableInfo);final String duplicateKeySql =prepareDuplicateKeySql(tableInfo);final String sqlResult = String.format(sql, tableName, filedSql, modelValuesSql,duplicateKeySql);//System.out.println("savaorupdatesqlsql="+sqlResult);SqlSource sqlSource = languageDriver.createSqlSource(configuration, sqlResult, modelClass);return this.addInsertMappedStatement(mapperClass, modelClass, "mysqlInsertOrUpdateBath", sqlSource, new NoKeyGenerator(), null, null);}/*** 准备ON DUPLICATE KEY UPDATE sql* @param tableInfo* @return*/private String prepareDuplicateKeySql(TableInfo tableInfo) {final StringBuilder duplicateKeySql = new StringBuilder();if(!StringUtils.isEmpty(tableInfo.getKeyColumn())) {duplicateKeySql.append(tableInfo.getKeyColumn()).append("=values(").append(tableInfo.getKeyColumn()).append("),");}tableInfo.getFieldList().forEach(x -> {duplicateKeySql.append(x.getColumn()).append("=values(").append(x.getColumn()).append("),");});duplicateKeySql.delete(duplicateKeySql.length() - 1, duplicateKeySql.length());return duplicateKeySql.toString();}/*** 准备属性名* @param tableInfo* @return*/private String prepareFieldSql(TableInfo tableInfo) {StringBuilder fieldSql = new StringBuilder();fieldSql.append(tableInfo.getKeyColumn()).append(",");tableInfo.getFieldList().forEach(x -> {fieldSql.append(x.getColumn()).append(",");});fieldSql.delete(fieldSql.length() - 1, fieldSql.length());fieldSql.insert(0, "(");fieldSql.append(")");return fieldSql.toString();}private String prepareModelValuesSql(TableInfo tableInfo){final StringBuilder valueSql = new StringBuilder();valueSql.append("<foreach collection=\"list\" item=\"item\" index=\"index\" open=\"(\" separator=\"),(\" close=\")\">");if(!StringUtils.isEmpty(tableInfo.getKeyProperty())) {valueSql.append("#{item.").append(tableInfo.getKeyProperty()).append("},");}tableInfo.getFieldList().forEach(x -> valueSql.append("#{item.").append(x.getProperty()).append("},"));valueSql.delete(valueSql.length() - 1, valueSql.length());valueSql.append("</foreach>");return valueSql.toString();}
    }
    
  3. 注册InsertBatchMethod和MysqlInsertOrUpdateBath到EasySqlInjector

    import com.baomidou.mybatisplus.core.injector.AbstractMethod;
    import com.baomidou.mybatisplus.core.injector.DefaultSqlInjector;
    import com.baomidou.mybatisplus.extension.injector.methods.AlwaysUpdateSomeColumnById;
    import com.baomidou.mybatisplus.extension.injector.methods.InsertBatchSomeColumn;
    import org.springframework.stereotype.Component;
    import java.util.List;@Component
    public class EasySqlInjector extends DefaultSqlInjector {@Overridepublic List<AbstractMethod> getMethodList(Class<?> mapperClass) {List<AbstractMethod> methodList = super.getMethodList(mapperClass);// 真批量插入接口methodList.add(new InsertBatchSomeColumn());// 总是更新字段,不忽略nullmethodList.add(new AlwaysUpdateSomeColumnById(tableFieldInfo ->!tableFieldInfo.getColumn().equals("DELETED")&& !tableFieldInfo.getColumn().equals("ID")&& !tableFieldInfo.getColumn().equals("CREATE_TIME")&& !tableFieldInfo.getColumn().equals("CREATE_USER")&& !tableFieldInfo.getColumn().equals("CREATE_USER_NAME")));// 真批量更新methodList.add(new InsertBatchMethod());methodList.add(new MysqlInsertOrUpdateBath());return methodList;}
    }
    
  4. 注册EasySqlInjector到Mybatis配置类

    @Slf4j
    @Configuration
    @EnableNacosConfig
    @EnableConfigurationProperties
    @MapperScan("com.**.dao")
    public class OPAConfiguration implements EnvironmentAware,BeanFactoryAware{@Beanpublic xxxMybatisContext xxxMybatisContext(xxxProperties xxxProperties, MybatisPlusProperties properties) throws Exception {xxxMybatisContext xxxMybatisContext=new xxxMybatisContext();// TODO 使用 MybatisSqlSessionFactoryBean 而不是 SqlSessionFactoryBeanMybatisSqlSessionFactoryBean factory = new MybatisSqlSessionFactoryBean();factory.setDataSource(this.dataSource);factory.setVfs(SpringBootVFS.class);factory.setMapperLocations(new PathMatchingResourcePatternResolver().getResources("classpath*:com/xxx/xxx/xxx/mapping/*Mapper.xml"));// TODO 此处必为非 NULLGlobalConfig globalConfig = properties.getGlobalConfig();GlobalConfig newGlobalConfig=new GlobalConfig();BeanUtils.copyProperties(globalConfig, newGlobalConfig);newGlobalConfig.setMetaObjectHandler(new xxxMetaObjectHandler());newGlobalConfig.setSqlInjector(new EasySqlInjector());factory.setGlobalConfig(newGlobalConfig);SqlSessionFactory sqlSessionFactory=factory.getObject();newGlobalConfig.setSqlSessionFactory(sqlSessionFactory);xxxMybatisContext.setSessionFactory(sqlSessionFactory);xxxMybatisContext.setSqlSessionTemplate(new SqlSessionTemplate(sqlSessionFactory));ClassPathMapperScanner scanner = new ClassPathMapperScanner((BeanDefinitionRegistry) beanFactory);scanner.setSqlSessionTemplate(xxxMybatisContext.getSqlSessionTemplate());//   scanner.setBeanNameGenerator(new xxxBeanNameGenerator());scanner.registerFilters();scanner.scan(StringUtils.tokenizeToStringArray("com.xxx.xxx.xxx.mapping", ConfigurableApplicationContext.CONFIG_LOCATION_DELIMITERS));return xxxMybatisContext;}}    
    
  5. 实现自定义RootMapper

    import com.baomidou.mybatisplus.core.mapper.BaseMapper;
    import org.apache.ibatis.annotations.Param;
    import java.util.List;/*** 根Mapper,给表Mapper继承用的,可以自定义通用方法* {@link BaseMapper}* {@link com.baomidou.mybatisplus.extension.service.IService}* {@link com.baomidou.mybatisplus.extension.service.impl.ServiceImpl}*/
    public interface RootMapper<T> extends BaseMapper<T> {/*** 自定义批量插入* 如果要自动填充,@Param(xx) xx参数名必须是 list/collection/array 3个的其中之一*/int insertBatch(@Param("list") List<T> list);/*** 自定义批量新增或更新* 如果要自动填充,@Param(xx) xx参数名必须是 list/collection/array 3个的其中之一*/int mysqlInsertOrUpdateBath(@Param("list") List<T> list);}
    
  6. 要实现真批量操作的实体类的Mapper继承RootMapper

    @Mapper
    public interface BudgetVSActualMapper extends RootMapper<BudgetVSActual> {
    
  7. 自定义MyServiceImpl实现类

    import com.baomidou.mybatisplus.core.conditions.Wrapper;
    import com.baomidou.mybatisplus.core.enums.SqlMethod;
    import com.baomidou.mybatisplus.core.metadata.TableInfo;
    import com.baomidou.mybatisplus.core.metadata.TableInfoHelper;
    import com.baomidou.mybatisplus.core.toolkit.*;
    import com.baomidou.mybatisplus.extension.service.IService;
    import com.baomidou.mybatisplus.extension.toolkit.SqlHelper;
    import com.pwc.sdc.OPA.mapping.RootMapper;
    import org.apache.ibatis.binding.MapperMethod;
    import org.apache.ibatis.logging.Log;
    import org.apache.ibatis.logging.LogFactory;
    import org.apache.ibatis.session.SqlSession;
    import org.mybatis.spring.SqlSessionUtils;
    import org.springframework.beans.factory.annotation.Autowired;
    import org.springframework.core.ResolvableType;
    import org.springframework.transaction.annotation.Transactional;
    import java.io.Serializable;
    import java.util.*;
    import java.util.function.BiConsumer;
    import java.util.function.Consumer;
    import java.util.function.Function;
    import java.util.stream.Collectors;
    import java.util.stream.Stream;public  class MyServiceImpl<M extends RootMapper<T>, T> implements IService<T> {protected Log log = LogFactory.getLog(this.getClass());@Autowiredprotected M baseMapper;protected Class<T> entityClass = this.currentModelClass();protected Class<T> mapperClass = this.currentMapperClass();public MyServiceImpl() {}public M getBaseMapper() {return this.baseMapper;}public Class<T> getEntityClass() {return this.entityClass;}/** @deprecated */@Deprecatedprotected boolean retBool(Integer result) {return SqlHelper.retBool(result);}protected Class<T> currentMapperClass() {return (Class)this.getResolvableType().as(MyServiceImpl.class).getGeneric(new int[]{0}).getType();}protected Class<T> currentModelClass() {return (Class)this.getResolvableType().as(MyServiceImpl.class).getGeneric(new int[]{1}).getType();}protected ResolvableType getResolvableType() {return ResolvableType.forClass(ClassUtils.getUserClass(this.getClass()));}/** @deprecated */@Deprecatedprotected SqlSession sqlSessionBatch() {return SqlHelper.sqlSessionBatch(this.entityClass);}/** @deprecated */@Deprecatedprotected void closeSqlSession(SqlSession sqlSession) {SqlSessionUtils.closeSqlSession(sqlSession, GlobalConfigUtils.currentSessionFactory(this.entityClass));}/** @deprecated */@Deprecatedprotected String sqlStatement(SqlMethod sqlMethod) {return SqlHelper.table(this.entityClass).getSqlStatement(sqlMethod.getMethod());}@Transactional(rollbackFor = {Exception.class})public boolean saveBatch(Collection<T> entityList, int batchSize) {if(CollectionUtils.isEmpty(entityList)){return true;}int maxNum=2000;int limit = countStep(entityList.size(), maxNum);List<List<T>> subList = new ArrayList<>();Stream.iterate(0, n -> n + 1).limit(limit).forEach(i -> {subList.add(entityList.stream().skip(i * maxNum).limit(maxNum).collect(Collectors.toList()));});for (List<T> t : subList) {this.baseMapper.insertBatch(t);}return true;}protected String getSqlStatement(SqlMethod sqlMethod) {return SqlHelper.getSqlStatement(this.mapperClass, sqlMethod);}@Transactional(rollbackFor = {Exception.class})public boolean saveOrUpdate(T entity) {if (null == entity) {return false;} else {TableInfo tableInfo = TableInfoHelper.getTableInfo(this.entityClass);Assert.notNull(tableInfo, "error: can not execute. because can not find cache of TableInfo for entity!", new Object[0]);String keyProperty = tableInfo.getKeyProperty();Assert.notEmpty(keyProperty, "error: can not execute. because can not find column for id from entity!", new Object[0]);Object idVal = ReflectionKit.getFieldValue(entity, tableInfo.getKeyProperty());return !StringUtils.checkValNull(idVal) && !Objects.isNull(this.getById((Serializable)idVal)) ? this.updateById(entity) : this.save(entity);}}@Transactional(rollbackFor = {Exception.class})public boolean saveOrUpdateBatch(Collection<T> entityList, int batchSize) {if(CollectionUtils.isEmpty(entityList)){return true;}int maxNum=2000;int limit = countStep(entityList.size(), maxNum);List<List<T>> subList = new ArrayList<>();Stream.iterate(0, n -> n + 1).limit(limit).forEach(i -> {subList.add(entityList.stream().skip(i * maxNum).limit(maxNum).collect(Collectors.toList()));});for (List<T> t : subList) {this.baseMapper.mysqlInsertOrUpdateBath(t);}return true;}private static Integer countStep(Integer size, Integer maxNum) {return (size + maxNum - 1) / maxNum;}@Transactional(rollbackFor = {Exception.class})public boolean updateBatchById(Collection<T> entityList, int batchSize) {String sqlStatement = this.getSqlStatement(SqlMethod.UPDATE_BY_ID);return this.executeBatch(entityList, batchSize, (sqlSession, entity) -> {MapperMethod.ParamMap<T> param = new MapperMethod.ParamMap();param.put("et", entity);sqlSession.update(sqlStatement, param);});}public T getOne(Wrapper<T> queryWrapper, boolean throwEx) {return throwEx ? this.baseMapper.selectOne(queryWrapper) : SqlHelper.getObject(this.log, this.baseMapper.selectList(queryWrapper));}public Map<String, Object> getMap(Wrapper<T> queryWrapper) {return (Map)SqlHelper.getObject(this.log, this.baseMapper.selectMaps(queryWrapper));}public <V> V getObj(Wrapper<T> queryWrapper, Function<? super Object, V> mapper) {return SqlHelper.getObject(this.log, this.listObjs(queryWrapper, mapper));}/** @deprecated */@Deprecatedprotected boolean executeBatch(Consumer<SqlSession> consumer) {return SqlHelper.executeBatch(this.entityClass, this.log, consumer);}protected <E> boolean executeBatch(Collection<E> list, int batchSize, BiConsumer<SqlSession, E> consumer) {return SqlHelper.executeBatch(this.entityClass, this.log, list, batchSize, consumer);}protected <E> boolean executeBatch(Collection<E> list, BiConsumer<SqlSession, E> consumer) {return this.executeBatch(list, 1000, consumer);}
    
  8. 实体类ServiceImpl继承MyServiceImpl

    public class BudgetVSActualServiceImpl extends MyServiceImpl<BudgetVSActualMapper, BudgetVSActual> implements BudgetVSActualService {
    
  9. 批量方法的使用

    @Autowired
    private IService<T> iService;//批量保存数据
    iService.saveBatch(DataList);
    //批量更新数据
    iService.saveOrUpdateBatch(DataList);
    

这篇关于Mybatis Plus快速重构真批量sql入库操作的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1146908

相关文章

mybatis的整体架构

mybatis的整体架构分为三层: 1.基础支持层 该层包括:数据源模块、事务管理模块、缓存模块、Binding模块、反射模块、类型转换模块、日志模块、资源加载模块、解析器模块 2.核心处理层 该层包括:配置解析、参数映射、SQL解析、SQL执行、结果集映射、插件 3.接口层 该层包括:SqlSession 基础支持层 该层保护mybatis的基础模块,它们为核心处理层提供了良好的支撑。

SQL中的外键约束

外键约束用于表示两张表中的指标连接关系。外键约束的作用主要有以下三点: 1.确保子表中的某个字段(外键)只能引用父表中的有效记录2.主表中的列被删除时,子表中的关联列也会被删除3.主表中的列更新时,子表中的关联元素也会被更新 子表中的元素指向主表 以下是一个外键约束的实例展示

基于MySQL Binlog的Elasticsearch数据同步实践

一、为什么要做 随着马蜂窝的逐渐发展,我们的业务数据越来越多,单纯使用 MySQL 已经不能满足我们的数据查询需求,例如对于商品、订单等数据的多维度检索。 使用 Elasticsearch 存储业务数据可以很好的解决我们业务中的搜索需求。而数据进行异构存储后,随之而来的就是数据同步的问题。 二、现有方法及问题 对于数据同步,我们目前的解决方案是建立数据中间表。把需要检索的业务数据,统一放到一张M

如何去写一手好SQL

MySQL性能 最大数据量 抛开数据量和并发数,谈性能都是耍流氓。MySQL没有限制单表最大记录数,它取决于操作系统对文件大小的限制。 《阿里巴巴Java开发手册》提出单表行数超过500万行或者单表容量超过2GB,才推荐分库分表。性能由综合因素决定,抛开业务复杂度,影响程度依次是硬件配置、MySQL配置、数据表设计、索引优化。500万这个值仅供参考,并非铁律。 博主曾经操作过超过4亿行数据

【C++ Primer Plus习题】13.4

大家好,这里是国中之林! ❥前些天发现了一个巨牛的人工智能学习网站,通俗易懂,风趣幽默,忍不住分享一下给大家。点击跳转到网站。有兴趣的可以点点进去看看← 问题: 解答: main.cpp #include <iostream>#include "port.h"int main() {Port p1;Port p2("Abc", "Bcc", 30);std::cout <<

性能分析之MySQL索引实战案例

文章目录 一、前言二、准备三、MySQL索引优化四、MySQL 索引知识回顾五、总结 一、前言 在上一讲性能工具之 JProfiler 简单登录案例分析实战中已经发现SQL没有建立索引问题,本文将一起从代码层去分析为什么没有建立索引? 开源ERP项目地址:https://gitee.com/jishenghua/JSH_ERP 二、准备 打开IDEA找到登录请求资源路径位置

MySQL数据库宕机,启动不起来,教你一招搞定!

作者介绍:老苏,10余年DBA工作运维经验,擅长Oracle、MySQL、PG、Mongodb数据库运维(如安装迁移,性能优化、故障应急处理等)公众号:老苏畅谈运维欢迎关注本人公众号,更多精彩与您分享。 MySQL数据库宕机,数据页损坏问题,启动不起来,该如何排查和解决,本文将为你说明具体的排查过程。 查看MySQL error日志 查看 MySQL error日志,排查哪个表(表空间

电脑桌面文件删除了怎么找回来?别急,快速恢复攻略在此

在日常使用电脑的过程中,我们经常会遇到这样的情况:一不小心,桌面上的某个重要文件被删除了。这时,大多数人可能会感到惊慌失措,不知所措。 其实,不必过于担心,因为有很多方法可以帮助我们找回被删除的桌面文件。下面,就让我们一起来了解一下这些恢复桌面文件的方法吧。 一、使用撤销操作 如果我们刚刚删除了桌面上的文件,并且还没有进行其他操作,那么可以尝试使用撤销操作来恢复文件。在键盘上同时按下“C

MySQL高性能优化规范

前言:      笔者最近上班途中突然想丰富下自己的数据库优化技能。于是在查阅了多篇文章后,总结出了这篇! 数据库命令规范 所有数据库对象名称必须使用小写字母并用下划线分割 所有数据库对象名称禁止使用mysql保留关键字(如果表名中包含关键字查询时,需要将其用单引号括起来) 数据库对象的命名要能做到见名识意,并且最后不要超过32个字符 临时库表必须以tmp_为前缀并以日期为后缀,备份

[MySQL表的增删改查-进阶]

🌈个人主页:努力学编程’ ⛅个人推荐: c语言从初阶到进阶 JavaEE详解 数据结构 ⚡学好数据结构,刷题刻不容缓:点击一起刷题 🌙心灵鸡汤:总有人要赢,为什么不能是我呢 💻💻💻数据库约束 🔭🔭🔭约束类型 not null: 指示某列不能存储 NULL 值unique: 保证某列的每行必须有唯一的值default: 规定没有给列赋值时的默认值.primary key: