最近项目需要导入一批3000多万条的POI数据到Oracle数据库,简单的插入导入速度太慢,使用sqlldr 批量导入3000多万条数据花了20分钟左右,速度还可以,具体方法如下:
1.新建导入控制文件 input.ctl,文件内容如下:
Load data
Characterset UTF8
Infile 'H:\POI\baidu.txt'
Append into table tbl_poi_baidu
fields terminated by ","
Optionally enclosed by '""'
Trailing nullcols
(POI_NAME,CLASS_ALL,ADDR,PHONE,TEL,LONGITUDE,LATITUDE,CITY,CITYCODE,PROVINCE,DISTRICT,STREET,STREENUMBER,CLASS_1,CLASS_2,CLASS_3,CLASS_4)2.命令行窗口输入:
sqlldr userid=sde/sde control=input.ctl log=log.out discard=discard.txt errors=1000000 注意:文件字符集要与Oracle服务等字符集一致,建议文件另存为UTF-8无BOM,导入文件内添加 Characterset UTF8
解决Oracle数据导入中文乱码:export NLS_LANG='SIMPLIFIED CHINESE_CHINA.AL32UTF8'
DOS环境下文件快速合并: copy *.csv newfile.txt
本文介绍了一种高效地将大量POI数据(约3000万条记录)导入Oracle数据库的方法,通过使用sqlldr工具结合特定的控制文件,显著提高了数据导入的速度。
1万+

被折叠的 条评论
为什么被折叠?



