Mysql EF 数据录入批量数据录入

2023-12-20 00:38

本文主要是介绍Mysql EF 数据录入批量数据录入,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

逐条录入数据
/// <summary>
/// 一条条进行数据录入
/// </summary>
/// <param name="tableName"></param>
/// <param name="dt"></param>
/// <returns></returns>
private static int InsertDataTable(string tableName, DataTable dt)
{//循环列,循环每行,执行insert sql语句string colStr = "";List<string> col = new List<string>();foreach (DataColumn column in dt.Columns){col.Add(column.ColumnName);colStr += $"`{column.ColumnName}`,";}colStr = colStr.TrimEnd(',');var totalCount = 0;foreach (DataRow dr in dt.Rows){string val = "";foreach (var columnName in col){val += $"\"{dr[columnName]}\",";}val = val.TrimEnd(',');//这里可以使用MySqlParameterstring sql = $"insert into `{tableName}`({colStr}) values({val})";totalCount+= ExecuteNonQuery(sql, null);}return totalCount;
}
拼接sql录入
/// <summary>
/// 批量数据录入
/// </summary>
/// <param name="tableName"></param>
/// <param name="dt"></param>
public static void SqlBulkCopyByDatatable(string tableName, DataTable dt)
{try{//循环列,循环每行,执行insert sql语句//一次提交500条记录var maxSingleCount = 500;//本次录入的数据条数var singleCount = 0;var totalCount = 0;//总共需要录入的数据条数var recordCount = dt.Rows.Count;string colStr = "";List<string> col = new List<string>();foreach (DataColumn column in dt.Columns){col.Add(column.ColumnName);colStr += $"`{column.ColumnName}`,";}colStr = colStr.TrimEnd(',');var valueStr = "";foreach (DataRow dr in dt.Rows){string val = "";foreach (var columnName in col){val += $"\"{dr[columnName]}\",";}val = val.TrimEnd(',');//https://blog.csdn.net/atgc/article/details/2039672valueStr += $"({val}),";singleCount++;totalCount++;//满足maxSingleCount条数据,或者到达最后一条数据,则录入if (singleCount >= maxSingleCount || totalCount >= recordCount){singleCount = 0;valueStr = valueStr.TrimEnd(',');//insert into table(columns) values(value1),(value2),.....(valuen);string sql = $"insert into `{tableName}`({colStr}) values{valueStr}";ExecuteNonQuery(sql, null);valueStr = "";}}}catch (Exception ex){throw ex;}
}

公共方法

private static int ExecuteNonQuery(string sql, IEnumerable<MySqlParameter> parameters = null)
{int n = 0;using (var cmd = new MySqlCommand(sql, connection)){//事务//https://www.cnblogs.com/lhyqzx/p/6440959.htmlvar sqlTransaction = connection.BeginTransaction();cmd.Transaction = sqlTransaction;if (parameters != null){foreach(var p in parameters){cmd.Parameters.Add(p);}}try{n = cmd.ExecuteNonQuery();sqlTransaction.Commit();}catch(Exception ex){sqlTransaction.Rollback();throw ex;}}return n;
}
通过生成文件导入数据库

mysql支持把csv文件倒入到数据库
生成csv文件的时候,不需要特别生成一行头文件,每行生成的数据直接用 ‘,’ 分隔就行,一行代表数据库的一条记录,所以生成csv文件时候,注意数据的顺序

MySqlBulkLoader bulk = new MySqlBulkLoader(connection)
{FieldTerminator = ",",//这个地方字段间的间隔方式,为逗号FieldQuotationCharacter = '"',EscapeCharacter = '"',LineTerminator = "\r\n",//每行FileName = filePath,//文件地址NumberOfLinesToSkip = 0,TableName = tableName,
};
bulk.Load();
示例代码

MysqlUseEFDemo

参考资料

MySQL高效的批插入 BULK INSERT
MySql大批量插入数据的方法
5.12 Using the MySqlBulkLoader Class
MySqlBulkLoader Class
SqlCommand对象-Transaction事务的使用

这篇关于Mysql EF 数据录入批量数据录入的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/514270

相关文章

MySQL的JDBC编程详解

《MySQL的JDBC编程详解》:本文主要介绍MySQL的JDBC编程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录前言一、前置知识1. 引入依赖2. 认识 url二、JDBC 操作流程1. JDBC 的写操作2. JDBC 的读操作总结前言本文介绍了mysq

java.sql.SQLTransientConnectionException连接超时异常原因及解决方案

《java.sql.SQLTransientConnectionException连接超时异常原因及解决方案》:本文主要介绍java.sql.SQLTransientConnectionExcep... 目录一、引言二、异常信息分析三、可能的原因3.1 连接池配置不合理3.2 数据库负载过高3.3 连接泄漏

Python实现Excel批量样式修改器(附完整代码)

《Python实现Excel批量样式修改器(附完整代码)》这篇文章主要为大家详细介绍了如何使用Python实现一个Excel批量样式修改器,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一... 目录前言功能特性核心功能界面特性系统要求安装说明使用指南基本操作流程高级功能技术实现核心技术栈关键函

Linux下MySQL数据库定时备份脚本与Crontab配置教学

《Linux下MySQL数据库定时备份脚本与Crontab配置教学》在生产环境中,数据库是核心资产之一,定期备份数据库可以有效防止意外数据丢失,本文将分享一份MySQL定时备份脚本,并讲解如何通过cr... 目录备份脚本详解脚本功能说明授权与可执行权限使用 Crontab 定时执行编辑 Crontab添加定

使用Python批量将.ncm格式的音频文件转换为.mp3格式的实战详解

《使用Python批量将.ncm格式的音频文件转换为.mp3格式的实战详解》本文详细介绍了如何使用Python通过ncmdump工具批量将.ncm音频转换为.mp3的步骤,包括安装、配置ffmpeg环... 目录1. 前言2. 安装 ncmdump3. 实现 .ncm 转 .mp34. 执行过程5. 执行结

Python实现批量CSV转Excel的高性能处理方案

《Python实现批量CSV转Excel的高性能处理方案》在日常办公中,我们经常需要将CSV格式的数据转换为Excel文件,本文将介绍一个基于Python的高性能解决方案,感兴趣的小伙伴可以跟随小编一... 目录一、场景需求二、技术方案三、核心代码四、批量处理方案五、性能优化六、使用示例完整代码七、小结一、

C#实现一键批量合并PDF文档

《C#实现一键批量合并PDF文档》这篇文章主要为大家详细介绍了如何使用C#实现一键批量合并PDF文档功能,文中的示例代码简洁易懂,感兴趣的小伙伴可以跟随小编一起学习一下... 目录前言效果展示功能实现1、添加文件2、文件分组(书签)3、定义页码范围4、自定义显示5、定义页面尺寸6、PDF批量合并7、其他方法

MySQL中On duplicate key update的实现示例

《MySQL中Onduplicatekeyupdate的实现示例》ONDUPLICATEKEYUPDATE是一种MySQL的语法,它在插入新数据时,如果遇到唯一键冲突,则会执行更新操作,而不是抛... 目录1/ ON DUPLICATE KEY UPDATE的简介2/ ON DUPLICATE KEY UP

MySQL分库分表的实践示例

《MySQL分库分表的实践示例》MySQL分库分表适用于数据量大或并发压力高的场景,核心技术包括水平/垂直分片和分库,需应对分布式事务、跨库查询等挑战,通过中间件和解决方案实现,最佳实践为合理策略、备... 目录一、分库分表的触发条件1.1 数据量阈值1.2 并发压力二、分库分表的核心技术模块2.1 水平分

Python与MySQL实现数据库实时同步的详细步骤

《Python与MySQL实现数据库实时同步的详细步骤》在日常开发中,数据同步是一项常见的需求,本篇文章将使用Python和MySQL来实现数据库实时同步,我们将围绕数据变更捕获、数据处理和数据写入这... 目录前言摘要概述:数据同步方案1. 基本思路2. mysql Binlog 简介实现步骤与代码示例1