转:SqlBulkCopy批量复制数据

本文介绍如何利用.NET 2.0中的SqlBulkCopy类实现高效的数据迁移,包括从数据库到数据库的数据迁移过程及代码示例。通过比较存储过程与SqlBulkCopy的性能,展示后者在批量数据迁移中的优势。

在.Net1.1中无论是对于批量插入整个DataTable中的所有数据到数据库中,还是进行不同数据源之间的迁移,都不是很方便。而 在.Net2.0中,SQLClient命名空间下增加了几个新类帮助我们通过DataTable或DataReader批量迁移数据。数据源可以来自关 系数据库或者XML文件,甚至WebService返回结果。其中最重要的一个类就是SqlBulkCopy类,使用它可以很方便的帮助我们把数据源的数 据迁移到目标数据库中。
下面我们先通过一个简单的例子说明这个类的使用:

首先:web.config

None.gif <connectionStrings>
None.gif    
<add name="srcDBConnection" connectionString="server=.;database=pubs;uid=sa;pwd="/>
None.gif    
<add name="desDBConnection" connectionString="server=.;database=NorthWind;uid=sa;pwd="/>
None.gif  
</connectionStrings>

C#文件: 前台不Copy了,就一个按钮,一个Label

None.gifusing System;
None.gif
using System.Data;
None.gif
using System.Configuration;
None.gif
using System.Collections;
None.gif
using System.Web;
None.gif
using System.Web.Security;
None.gif
using System.Web.UI;
None.gif
using System.Web.UI.WebControls;
None.gif
using System.Web.UI.WebControls.WebParts;
None.gif
using System.Web.UI.HtmlControls;
None.gif
using System.Data.SqlClient;
None.gif
None.gif
public partial class ASP_NET : System.Web.UI.Page
ExpandedBlockStart.gifContractedBlock.gif
...{
InBlock.gif    
private DateTime startTime;
InBlock.gif
InBlock.gif    
protected void Button1_Click(object sender, EventArgs e)
ExpandedSubBlockStart.gifContractedSubBlock.gif    
...{
InBlock.gif        startTime 
= DateTime.Now;
InBlock.gif        
string srcConnString = "";
InBlock.gif        
string desConnString = "";
InBlock.gif        SqlConnection srcConnection 
= new SqlConnection();
InBlock.gif        SqlConnection desConnection 
= new SqlConnection();
InBlock.gif        SqlCommand sqlcmd 
= new SqlCommand();
InBlock.gif        SqlDataAdapter da 
= new SqlDataAdapter();
InBlock.gif        DataTable dt 
= new DataTable();
InBlock.gif        
//srcConnString = ConfigurationManager.ConnectionStrings["srcDBConnection"].ConnectionString;
InBlock.gif
        desConnString = ConfigurationManager.ConnectionStrings["desDBConnection"].ToString();
InBlock.gif        
//srcConnection.ConnectionString = srcConnString;
InBlock.gif
        srcConnection.ConnectionString = desConnString;
InBlock.gif        sqlcmd.Connection 
= srcConnection;
InBlock.gif        
//sqlcmd.CommandText = "select * from jobs";
InBlock.gif
        sqlcmd.CommandText = "select * from abc";
InBlock.gif        sqlcmd.CommandType 
= CommandType.Text;
InBlock.gif        sqlcmd.Connection.Open();
InBlock.gif        da.SelectCommand 
= sqlcmd;
InBlock.gif        da.Fill(dt);
InBlock.gif
InBlock.gif        SqlBulkCopy sbc 
= new SqlBulkCopy(desConnString,SqlBulkCopyOptions.UseInternalTransaction);
InBlock.gif        sbc.BulkCopyTimeout 
= 5000;
InBlock.gif        sbc.SqlRowsCopied 
+=new SqlRowsCopiedEventHandler(OnRowsCopied);
InBlock.gif        sbc.NotifyAfter 
= dt.Rows.Count;
InBlock.gif
InBlock.gif        
try
ExpandedSubBlockStart.gifContractedSubBlock.gif        
...{
InBlock.gif           
// sbc.DestinationTableName = "jobs";
InBlock.gif
            sbc.DestinationTableName = "bcd";
InBlock.gif            sbc.WriteToServer(dt);
ExpandedSubBlockEnd.gif        }

InBlock.gif        
catch (Exception ex)
ExpandedSubBlockStart.gifContractedSubBlock.gif        
...{
InBlock.gif            lblCounter.Text 
= ex.Message.ToString();
ExpandedSubBlockEnd.gif        }

InBlock.gif        
finally
ExpandedSubBlockStart.gifContractedSubBlock.gif        
...{
InBlock.gif            sqlcmd.Clone();
InBlock.gif            srcConnection.Close();
InBlock.gif            desConnection.Close();
InBlock.gif            
ExpandedSubBlockEnd.gif        }

InBlock.gif
ExpandedSubBlockEnd.gif    }

InBlock.gif    
private void OnRowsCopied(object sender, SqlRowsCopiedEventArgs args)
ExpandedSubBlockStart.gifContractedSubBlock.gif    
...{
InBlock.gif        lblCounter.Text 
+= args.RowsCopied.ToString() + " rows are copied<Br>";
InBlock.gif        TimeSpan copyTime 
= DateTime.Now - startTime;
InBlock.gif        lblCounter.Text 
+= "Copy Time:" + copyTime.Seconds.ToString() + "." + copyTime.Milliseconds.ToString() + " seconds";
ExpandedSubBlockEnd.gif    }

ExpandedBlockEnd.gif}

None.gif

代码分析:

None.gifSqlBulkCopy sbc = new SqlBulkCopy(desConnString,SqlBulkCopyOptions.UseInternalTransaction);
None.gif先生成SqlBulkCopy 实例,构造函数指定了目标数据库,使用SqlBulkCopyOptions.UseInternalTransaction是指迁移动作指定在一个Transaction当中,如果数据迁移中产生错误或异常将发生回滚。
None.gif

sbc.BulkCopyTimeout = 5000000;    //指定操作完成的Timeout时间

None.gif sbc.SqlRowsCopied +=new SqlRowsCopiedEventHandler(OnRowsCopied);
None.gif  sbc.NotifyAfter 
= dt.Rows.Count;
None.gif
None.gif        
try
ExpandedBlockStart.gifContractedBlock.gif        
...{
InBlock.gif           
// sbc.DestinationTableName = "jobs";
InBlock.gif
            sbc.DestinationTableName = "bcd";
InBlock.gif            sbc.WriteToServer(dt);
ExpandedBlockEnd.gif        }

None.gifNotifyAfter 属性指定通知通知事件前处理的数据行数,在这里指定为表的行数,并添加SqlRowsCopied事件输出整个迁移过程的时间。 WriteToServer方法就是将数据源拷备到目标数据库。在使用WriteToServer方法之前必须先指定 DestinationTableName属性,也就是目标数据库的表名,
None.gif

性能方面:我在Sql中用proc插入68万条数据花了近8分钟,用SqlBulkCopy花了53.234秒~,效率高了7倍耶!不过现在也不做这方面的底层了,呵呵,把自己写的一个测试存储过程也贴上吧,方便自己学习

None.gifcreate table abc
None.gif(
None.gif  aid 
int identity(1,1primary key,
None.gif  adesc 
varchar(50not null
None.gif)
None.gif
go
None.gif
ExpandedBlockStart.gifContractedBlock.gif
/**//**********存储过程**********************/
None.gif
create proc addData
None.gif
as
None.gif
declare @i int
None.gif
set @i=1
None.gif
while @i < 1000000
None.gif
begin
None.gif
insert into abc values ('testDescription')
None.gif
set @i = @i + 1
None.gif
end
None.gif
go
None.gif
None.gif
select * into titles from pubs.dbo.titles where  1> 3 复制跨数据库的表结构
转自http://blog.youkuaiyun.com/huaer1011/archive/2008/04/21/2312361.aspx

转载于:https://www.cnblogs.com/shikyoh/archive/2011/07/01/2095633.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值