sqlldr的介绍

本文主要是介绍sqlldr的介绍，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

　　SQL*LOADER是ORACLE的数据加载工具，通常用来将操作系统文件（数据）迁移到ORACLE数据库中。SQL*LOADER是大型数据仓库选择使用的加载方法，因为它提供了最快速的途径（DIRECT，PARALLEL）。

　　sqlldr的执行(在UNIX下用shell来调用)
　　$ORACLE_HOME/bin/sqlldr dwh/cognos@ORA8 control=../tmp/load.ctl
　　$ORACLE_HOME/bin/sqlldr dwh/cognos@ORA8 control=../tmp/load.ctl direct=true log=...

　　制定控制文件load.ctl
　　1、控制文件标识
　　2、要输入的数据文件名为test.txt
　　3、向表test中（追加）记录
　　4、指定分隔符
　　load data
　　infile '/query5/Ascential/data/month/mgmid.200304M'
　　into table DC_RPT_T_MGMID_200304M_30 append(APPEND为追加方式，或REPLACE)
　　fields terminated by ','
　　(
　　　　userid,
　　　　svcnum,
　　　　brand,
　　　　svcPlan,
　　　　busist,
　　　　hvcFlag,
　　　　mntFlag,
　　　　userYear,
　　　　joinMonth,
　　　　callfee,
　　　　callfeefav,
　　　　tollfee,
　　　　tollfeefav,
　　　　calltimes,
　　　　callduration,
　　　　billduration,
　　　　tollduration,
　　　　totalFee,
　　　　groupID
　　)

　　导入方式
　　************* 以下是4种装入表的方式
　　APPEND // 原先的表有数据就加在后面
　　INSERT // 装载空表如果原先的表有数据 sqlloader会停止默认值
　　REPLACE // 原先的表有数据原先的数据会全部删除
　　TRUNCATE // 指定的内容和replace的相同会用truncate语句删除现存数据

　　导入日期型字段
　　LOAD DATA
　　INFILE 'zlx.TXT'
　　append INTO TABLE zlx
　　FIELDS TERMINATED BY ',' OPTIONALLY ENCLOSED BY '"'
　　(
　　　　ID,
　　　　L,
　　　　F,
　　　　M,
　　　　DATE1 date 'dd-mm-yyyy'
　　)

　　SQLLoader将 Excel 数据导出到 Oracle
　　1.创建SQL*Loader输入数据所需要的文件,均保存到C:，用记事本编辑控制文件：input.ctl，内容如下：
　　load data　　　　　　　　　　 --1、控制文件标识
　　infile 'test.txt'　　　　　　 --2、要输入的数据文件名为test.txt
　　append into table test--3、向表test中追加记录
　　fields terminated by X'09'--4、字段终止于X'09'，是一个制表符（TAB）
　　(id,username,password,sj)　　 -----定义列对应顺序

　　2.还有一种方法
　　可以把EXCEL文件另存为CSV（逗号分隔）(*.csv),控制文件就改为用逗号分隔
　　LOAD DATA
　　INFILE 'd:car.csv'
　　APPEND INTO TABLE t_car_temp
　　FIELDS TERMINATED BY ‘,’
　　(phoneno,vip_car)

　　在控制文件中直接导入数据
　　1、控制文件test.ctl的内容
　　LOAD DATA
　　INFILE *
　　BADFILE 'C:Documents and SettingsJackey桌面WMCOUNTRY.BAD'
　　INSERT INTO TABLE EMCCOUNTRY
　　Fields terminated by ‘;’ Optionally enclosed by '"'
　　(
　　　　COUNTRYID,
　　　　COUNTRYCODE,
　　　　COUNTRYNAME,
　　　　CONTINENTID ,
　　　　MAPID ,
　　　　CREATETIME DATE ‘MM/DD/YYYY HH24:MI:SS’
　　　　LASTMODIFIEDTIME DATE ‘MM/DD/YYYY HH24:MI:SS’
　　)
　　BEGINDATA
　　1;"JP";"Japan";1;9;"09/16/2004 16:31:32";
　　2;"CN";"China";1;10;"09/16/2004 16:31:32";
　　3;"IN";"India";1;11;"09/16/2004 16:31:32";
　　4;"AU";"Australia";6;12;"09/16/2004 16:31:32";
　　5;"CA";"Canada";4;13;"09/16/2004 16:31:32";
　　6;"US";"United States";4;14;"09/16/2004 16:31:32";
　　7;"MX";"Mexico";4;15;"09/16/2004 16:31:32";
　　8;"GB";"United Kingdom";3;16;"09/16/2004 16:31:32";
　　9;"DE";"Germany";3;17;"09/16/2004 16:31:32";
　　10;"FR";"France";3;18;"09/16/2004 16:31:32";
　　11;"IT";"Italy";3;19;"09/16/2004 16:31:32";
　　12;"ES";"Spain";3;20;"09/16/2004 16:31:32";
　　13;"FI";"Finland";3;21;"09/16/2004 16:31:32";
　　14;"SE";"Sweden";3;22;"09/16/2004 16:31:32";
　　15;"IE";"Ireland";3;23;"09/16/2004 16:31:32";
　　16;"NL";"Netherlands";3;24;"09/16/2004 16:31:32";
　　17;"DK";"Denmark";3;25;"09/16/2004 16:31:32";
　　18;"BR";"Brazil";5;85;"09/30/2004 11:25:43";
　　19;"KR";"Korea, Republic of";1;88;"09/30/2004 11:25:43";
　　20;"NZ";"New Zealand";6;89;"09/30/2004 11:25:43";
　　21;"BE";"Belgium";3;79;"09/30/2004 11:25:43";
　　22;"AT";"Austria";3;78;"09/30/2004 11:25:43";
　　23;"NO";"Norway";3;82;"09/30/2004 11:25:43";
　　24;"LU";"Luxembourg";3;81;"09/30/2004 11:25:43";
　　25;"PT";"Portugal";3;83;"09/30/2004 11:25:43";
　　26;"GR";"Greece";3;80;"09/30/2004 11:25:43";
　　27;"IL";"Israel";1;86;"09/30/2004 11:25:43";
　　28;"CH";"Switzerland";3;84;"09/30/2004 11:25:43";
　　29;"A1";"Anonymous Proxy";0;0;"09/30/2004 11:25:43";
　　30;"A2";"Satellite Provider";0;0;"09/30/2004 11:25:43";
　　31;"AD";"Andorra";3;0;"09/30/2004 11:25:43";
　　32;"AE";"United Arab Emirates";1;0;"09/30/2004 11:25:43";
　　33;"AF";"Afghanistan";1;0;"09/30/2004 11:25:43";
　　34;"AG";"Antigua and Barbuda";7;0;"09/30/2004 11:25:43";
　　35;"AI";"Anguilla";7;0;"09/30/2004 11:25:43";
　　36;"AL";"Albania";3;0;"09/30/2004 11:25:43";
　　37;"AM";"Armenia";3;0;"09/30/2004 11:25:43";
　　38;"AN";"Netherlands Antilles";3;0;"09/30/2004 11:25:43";
　　39;"AO";"Angola";2;0;"09/30/2004 11:25:43";
　　40;"AP";"Asia/Pacific Region";2;0;"09/30/2004 11:25:43";
　　41;"AQ";"Antarctica";8;0;"09/30/2004 11:25:43";
　　42;"AR";"Argentina";5;0;"09/30/2004 11:25:43";
　　43;"AS";"American Samoa";6;0;"09/30/2004 11:25:43";
　　44;"AW";"Aruba";5;0;"09/30/2004 11:25:43";
　　45;"AZ";"Azerbaijan";1;0;"09/30/2004 11:25:43";
　　46;"BA";"Bosnia and Herzegovina";3;0;"09/30/2004 11:25:43";
　　47;"BB";"Barbados";5;0;"09/30/2004 11:25:43";
　　48;"BD";"Bangladesh";1;0;"09/30/2004 11:25:43";
　　49;"BF";"Burkina Faso";2;0;"09/30/2004 11:25:43";
　　50;"BG";"Bulgaria";3;0;"09/30/2004 11:25:43";
　　51;"BH";"Bahrain";1;0;"09/30/2004 11:25:43";
　　52;"BI";"Burundi";2;0;"09/30/2004 11:25:43";
　　53;"BJ";"Benin";2;0;"09/30/2004 11:25:43";
　　54;"BM";"Bermuda";4;0;"09/30/2004 11:25:43";
　　55;"BN";"Brunei Darussalam";1;0;"09/30/2004 11:25:43";
　　56;"BO";"Bolivia";5;0;"09/30/2004 11:25:43";
　　57;"BS";"Bahamas";7;0;"09/30/2004 11:25:43";
　　58;"BT";"Bhutan";1;0;"09/30/2004 11:25:43";
　　59;"BV";"Bouvet Island";5;0;"09/30/2004 11:25:43";
　　60;"BW";"Botswana";2;0;"09/30/2004 11:25:43";
　　61;"BY";"Belarus";3;0;"09/30/2004 11:25:43";
　　2、执行导入命令
　　C:>sqlldr userid=system/manager control=test.ctl

　　有效的关键字:
　　userid -- ORACLE username/password
　　control -- Control file name
　　log -- Log file name
　　bad -- Bad file name
　　data -- Data file name
　　discard -- Discard file name
　　discardmax -- Number of discards to allow (全部默认)
　　skip -- Number of logical records to skip (默认0)
　　load -- Number of logical records to load (全部默认)
　　errors -- Number of errors to allow (默认50)
　　rows -- Number of rows in conventional path bind array or between direct path data saves（默认: 常规路径 64, 所有直接路径）
　　bindsize -- Size of conventional path bind array in bytes(默认256000)
　　silent -- Suppress messages during run (header,feedback,errors,discards,partitions)
　　direct -- use direct path (默认FALSE)
　　parfile -- parameter file: name of file that contains parameter specifications
　　parallel -- do parallel load (默认FALSE)
　　file -- File to allocate extents from
　　skip_unusable_indexes -- disallow/allow unusable indexes or index partitions(默认FALSE)
　　skip_index_maintenance -- do not maintain indexes, mark affected indexes as unusable(默认FALSE)
　　readsize -- Size of Read buffer (默认1048576)
　　external_table -- use external table for load; NOT_USED, GENERATE_ONLY, EXECUTE(默认NOT_USED)
　　columnarrayrows -- Number of rows for direct path column array(默认5000)
　　streamsize -- Size of direct path stream buffer in bytes(默认256000)
　　multithreading -- use multithreading in direct path
　　resumable -- enable or disable resumable for current session(默认FALSE)
　　resumable_name -- text string to help identify resumable statement
　　resumable_timeout -- wait time (in seconds) for RESUMABLE(默认7200)
　　date_cache -- size (in entries) of date conversion cache(默认1000)

　　PLEASE NOTE: 命令行参数可以由位置或关键字指定。前者的例子是 'sqlload scott/tiger foo'; 后一种情况的一个示例是 'sqlldr control=foouserid=scott/tiger'.位置指定参数的时间必须早于但不可迟于由关键字指定的参数。例如,允许 'sqlldr scott/tiger control=foo logfile=log', 但是不允许qlldr scott/tiger control=foo log', 即使参数 'log' 的位置正确。

　　optionally enclosed by '"'
　　将数据文件中的数据字段含有的引号“ " ”去掉，如果没有这段话，将会把“ " ”和字符合在一起导入数据库表中。

　　指定不装载那一列
　　LOAD DATA
　　INFILE *
　　INTO TABLE DEPT
　　REPLACE
　　FIELDS TERMINATED BY ',' OPTIONALLY ENCLOSED BY '"'
　　(
　　　　DEPTNO,
　　　　FILLER_1 FILLER, // 下面的 "Something Not To Be Loaded" 将不会被装载
　　　　DNAME,
　　　　LOC
　　)
　　BEGINDATA
　　20,Something Not To Be Loaded,Accounting,"Virginia,USA"

　　position的列子
　　LOAD DATA
　　INFILE *
　　INTO TABLE DEPT
　　REPLACE
　　(
　　　　DEPTNO position(1:2),
　　　　DNAME position(*:16), // 这个字段的开始位置在前一字段的结束位置
　　　　LOC position(*:29),
　　　　ENTIRE_LINE position(1:29)
　　)
　　BEGINDATA
　　10Accounting Virginia,USA

　　合并多行记录为一行记录
　　LOAD DATA
　　INFILE *
　　concatenate 3 // 通过关键字concatenate 把几行的记录看成一行记录
　　INTO TABLE DEPT
　　replace
　　FIELDS TERMINATED BY ','
　　(
　　　　DEPTNO,
　　　　DNAME "upper(:dname)",
　　　　LOC "upper(:loc)",
　　　　LAST_UPDATED date 'dd/mm/yyyy'
　　)
　　BEGINDATA
　　10,Sales, // 其实这3行看成一行 10,Sales,Virginia,1/5/2000
　　Virginia,
　　1/5/2000
　　// 这列子用 continueif list="," 也可以告诉sqlldr在每行的末尾找逗号找到逗号就把下一行附加到上一行。

　　载入每行的行号
　　load data
　　infile *
　　into table t
　　replace
　　(
　　　　seqno RECNUM //载入每行的行号
　　　　text Position(1:1024)
　　)
　　BEGINDATA
　　fsdfasj //自动分配一行号给载入表t 的seqno字段此行为 1
　　fasdjfasdfl // 此行为 2 ...

　　跳过数据行
　　可以用 "SKIP n" 关键字来指定导入时可以跳过多少行数据。如：
　　LOAD DATA
　　INFILE *
　　INTO TABLE load_positional_data
　　SKIP 5
　　(
　　　　data1 POSITION(1:5),
　　　　data2 POSITION(6:15)
　　)
　　BEGINDATA
　　11111AAAAAAAAAA
　　22222BBBBBBBBBB

　　提高 SQL*Loader 的性能
　　1) 一个简单而容易忽略的问题是，没有对导入的表使用任何索引和/或约束(主键)。如果这样做，甚至在使用ROWS=参数时，会很明显降低数据库导入性能。
　　2) 可以添加 DIRECT=TRUE来提高导入数据的性能。当然，在很多情况下，不能使用此参数。
　　3) 通过指定 UNRECOVERABLE选项，可以关闭数据库的日志。这个选项只能和 direct 一起使用。
　　4) 可以同时运行多个导入任务。

　　常规导入与direct导入方式的区别
　　常规导入可以通过使用 INSERT语句来导入数据。Direct导入可以跳过数据库的相关逻辑(DIRECT=TRUE)，而直接将数据导入到数据文件中。

--如果第1个字段就是0和1，可以直接写where col='0'...下面的是找第1个字段以什么字符开头的，从第2个表开始，第1个字段必须有position(1)重置
--ctl如下
--以'x'开头的导入t,'a'开头的导入t1,'m'开头的导入t2,字段在文件中以逗号分隔
load data
infile 'c:\t.dat'
badfile 't.bad'
truncate
into table t when (1 : 1) = 'x'
fields terminated by ','
(a,b)
into table t1 when (1 : 1) = 'a'
fields terminated by ','
(c position(1),d)
into table t2 when (1 : 1) = 'm'
fields terminated by ','
(c position(1),d)

目前所做的项目需要从一个按行记录的数据文件取出部分字段，再将这些字段的按行存储到Oracle数据库。这些数据大约有2 700 000条，原始数据文件有450M左右。至少有两种方法可以实现：

一.将原始数据文件读进内存流中，每读一行解析一条数据，接着执行一条SQL语句，将解析到的数据插入数据库表；

二..将原始数据文件读进内存流中，每读一行解析一条数据，接着将解析到的数据按行写入一个临时文件data.tmp，待所有数据均被解析完毕且写入临时文件后，调用SQL Loader，将所有数据一次性从临时文件导入数据库表。

一开始是按照第一种方法编程的。在本机（Oracle服务器装在本机）测试顺利通过，但是花了大约150分钟才导入解析和完成；当部署到实际环境中运行时，却出现了问题。跟踪发现是因为网络不稳定（程序所在服务器与数据库服务器处于不同的局域网，由防火墙隔开，做了几个特定端口的路由），有时候连接不到数据库，往往只导入了很少的几千条甚至几百条数据时，数据库就连接不上了。

后来分析，对于大量数据的导入，采用第一种方法会导致频繁写库，每次都要打开数据库（禁用了连接池，后续文章会提到禁用的原因），对数据库造成较大的压力，加上网络环境本来就不够稳定，所以很容易出现问题。于是改用第二种方法。

使用第二种方法后，解析花的时间大约为90分钟，导入则只花了5分钟左右。看来SQL Loader的效率真的很高。

下面讲讲SQL Loader的基本用法。

1、在Oracle中按照导入数据的格式建立一个空表

2、编写一个控制文件control.ctl，内容如下

LOAD DATA
INFILE 'E:\test\data.tmp'
BADFILE 'E:\test\data.bad'
DISCARDFILE 'E:\test\data.dsc'
DISCARDMAX 1000

APPEND
INTO TABLE "TB_TEST"
FIELDS TERMINATED BY '|'
TRAILING NULLCOLS
(
USER_ID,
USER_NAME,
REG_TIME DATE(20) "YYYY-MM-DD HH24:MI:SS"
)