python 将 csv(中文) 导入mysql 数据库的简单代码

2024-05-07 16:08

本文主要是介绍python 将 csv(中文) 导入mysql 数据库的简单代码,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

昨天老师让我在服务器上尝试安装一下 PHP写的简单脚本:把csv导入 MySQL 数据库,链接如下:

http://hawkee.com/snippet/8320/

 使用php写的,源码我就不贴上来了,写的比较简单,先是读取了csv的第一行,根据这个创建了表格,然后再利用sql自带的语句 “load data infile....”将剩下的数据读入到这个表格中。但是刚好服务器的后台command line 执行的php没有安装好,放在browser上的话处理数据又不太适合,于是我就自己写了一个简单的Python的脚本。

首先csv读入mysql 可以使用sql语句直接读入 代码如下:

[sql] view plain copy
  1. LOAD DATA INFILE 'csv_file'  
  2. IGNORE INTO TABLE table_name  
  3. CHARACTER SET UTF8  
  4. FIELDS TERMINATED BY ';'  
  5. OPTIONALLY ENCLOSED BY '"'  
  6. LINES TERMINATED BY '\n'  


但是这样读入的前提是必须创建一个table之后才能导入到指定的table,下面就是用python先提取了首行(前提是首行就是table的fields),然后再利用上面的sql语句把剩下的导入:
[python] view plain copy
  1. #coding=utf-8  
  2. import csv  
  3. import sys  
  4. import codecs  
  5. import MySQLdb  
  6. reload(sys)  
  7. sys.setdefaultencoding('utf-8')  
  8.   
  9. csv_filename=sys.argv[1]  
  10. database=sys.argv[2]  
  11. table_name=sys.argv[3]  
  12.   
  13. file=codecs.open(csv_filename,'r','utf-8')  
  14. reader=file.readline()  
  15. b=reader.split(',')  
  16. colum=''  
  17. for a in b:  
  18.     colum=colum+a+' varchar(255),'  
  19. colum=colum[:-1]  
  20. create='create table if not exists '+table_name+' '+'('+colum+')'+' DEFAULT CHARSET=utf8'  
  21. data='LOAD DATA LOCAL INFILE \''+csv_filename+'\' INTO TABLE '+table_name +' character set utf8 FIELDS TERMINATED BY \',\' ENCLOSED BY \'\"\' LINES TERMINATED BY \''+r'\r\n'+'\' IGNORE 1 LINES;'  
  22. e=unicode(data,'utf8')  
  23.   
  24.   
  25. conn=MySQLdb.connect(  
  26.     host='localhost',  
  27.     port=3306,  
  28.     user='root',  
  29.     passwd='',  
  30.     db=database)  
  31. conn.set_character_set('utf8')  
  32. cursor=conn.cursor()  
  33. cursor.execute('SET NAMES utf8;')  
  34. cursor.execute('SET character_set_connection=utf8;')  
  35. cursor.execute(create)  
  36. cursor.execute(e)  
  37. cursor.rowcount  
  38.   
  39. conn.commit()  
  40. cursor.close()  
  41. print('OK')  


用法在命令行中: python csv_to_sql.py  csv_file  database_name table_name
第一个参数csv文件(可以不和python脚本放在一个位置,路径写对就可以,不过放在一起更方便)
第二个参数选择存放的数据库名
第三个需要存入的表格名字。(不需要再去单独建立表格)
直接在命令行运行,没有报error错误就可以(会报warnning没关系)

这里有一点要注意的是,从代码就可以看出,创建的table的字段都是定义好的了,都是varchar(255),如果需要修改的话,可以到数据库根据自己的需要修改相应的field的属性。

另外一点就是csv中文的问题了,我要导入就是至少几十M的中文数据,所以一开始也遇到了点麻烦(不过python对中文的支持也不是很好)。这里要先明白一个问题就是csv的文件是什么编码的,我的 csv是utf8编码的,如果不是utf8最好先转成utf8的编码格式。上面的代码是在Linux服务器下测试成功的,如果是windows的话,有问题也因该是编码的问题。

还有就是创建数据库的时候也一定要记得统一用utf8的格式

1、建立数据库连接后   

[python] view plain copy
  1. conn.set_character_set('utf8')  

2、建立数据库游标后:

[python] view plain copy
  1. cursor.execute('SET NAMES utf8;')  

SET NAMES 'utf8';  
它相当于下面的三句指令: 
SET character_set_client = utf8; 
SET character_set_results = utf8; 
SET character_set_connection = utf8;
 
3、创建表格的时候在表格后面加上:

[python] view plain copy
  1. DEFAULT CHARSET=utf8  

这样就没有问题,其实就是要保证在整个数据流动过程中的编码要一致就可以了

ps:python有 CSV模块可以而支持读写csv文件,不过由于我只是提取一行建立表格所以就这里就没有用,不过我也尝试了一下,csv模块,如果要读取csv内容的话可以用这个模块,但是这个模块只支持utf8格式的,其它的格式的需要转码一下,这个看官方文档就可以了。

这篇关于python 将 csv(中文) 导入mysql 数据库的简单代码的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/967824

相关文章

IDEA +maven git tomcat database数据库 调试 插件 log4j Spring junit

前言 idea优化配置、常规配置、配置maven、git、tomcat、database数据库、调试配置、插件配置、log4j配置、Spring配置等等,稍后一一更新! 优化配置(#item1 “item1”) 打开文件 :“idea – > bin – >idea64.exe.vmoptions” -Xms: 初始内存;-Xmx : 最大内存;-ReservedCodeCache

SQL的插入语句insert

插入数据分为以下几种方式: 1. 插入完整的行; 2. 插入行的一部分 3. 插入某些查询的结果 4. 从一个表复制到另一个表 1. 插入完整的行,有两种方式:    INSERT  INTO  Customers  VALUES ();                                   // 缺点:高度依赖表中列的定义次序,不能保证各列在下一次表

SQL中的limit

1.  select  prod_name  from  products  limit  5;    指示Mysql等DBMS返回不超过5行的数据 2.  select  prod_name  from  products  limit  5  offset  5;指示 Mysql等DBMS返回从第5行起的5行数据。  第一个数字是 检索的行数,第二个数字是指从哪里开始。 3.

XMPP系列:二、将XMPP框架导入工程

一、XMPP框架的下载地址 GitHub: https://github.com/robbiehanson/XMPPFramework 二、将XMPP导入工程 1、将下载好的XMPP框架添加到工程中,然后按照下图添加对应的静态库; 2、添加对应的静态库之后,然后进行编译,如果出现报错,请检查是否有静态库未添加。

dpkg: status database area is locked by another process 解决方法

解决办法:sudo rm -rf /var/lib/dpkg/lock 或者:rm -rf /var/lib/dpkg/lock

iOS 逆向常用代码片段

1、在导航条上添加按钮 UINavigationItem *navigatItem = [self performSelector:@selector(navigationItem)];UIBarButtonItem *rightBarButtonItem = [[UIBarButtonItem alloc]initWithTitle:@"群助手" style:UIBarButtonItemSt

SpringBoot 学习六:数据库的增删改查

1、新建一个Girl类,添加如下代码: package controlle;import javax.persistence.Entity;import javax.persistence.GeneratedValue;import javax.persistence.Id;@Entitypublic class Girl {@Id@GeneratedValueprivate Integer

SpringBoot 学习五:连接数据库

1、在pom.xml需要添加与数据库相关的两个依赖: <dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-data-jpa</artifactId></dependency><dependency><groupId>mysql</groupId><artifactId>my

SpringBoot 学习四:macOS安装MySQL 以及报错解决

从MySQL官网下载Mysql,在本地安装好之后,用数据库连接工具Sequl Pro去连接数据库,发现报错了,报错信息有两种: Error1:Unable to connect to host 127.0.0.1 because access was denied.Double-check your username and password and ensure that access fro