C# MySql 批量插入数据 MySqlBulkLoader

这个博客展示了如何使用C#进行大批量数据插入到MySQL数据库,通过创建临时CSV文件并利用MySqlBulkLoader类实现。同时,还提供了一个将DataTable转换为CSV的辅助方法,确保了内容中逗号和引号的正确处理。博客内容涵盖了数据库操作和数据转换的关键步骤。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

 /// <summary>
        /// 大批量数据插入,返回成功插入行数
        /// </summary>
        /// <param name="connectionString">数据库连接字符串</param>
        /// <param name="table">数据表</param>
        /// <returns>返回成功插入行数</returns>
        public static int BulkInsert(DataTable table)
        {
            if (string.IsNullOrEmpty(table.TableName)) throw new Exception("请给DataTable的TableName属性附上表名称");
            if (table.Rows.Count == 0) return 0;
            int insertCount = 0;
            string tmpPath = Path.GetTempFileName();
            string csv = DataTableToCsv(table);
            File.WriteAllText(tmpPath, csv);
            //MySqlTransaction tran = null;
           
            using (MySqlConnection conn = new MySqlConnection(connectionString))
            {

                MySqlTransaction tran = null;
                try
                {
                  
                    conn.Open();
                    tran = conn.BeginTransaction();
                    MySqlBulkLoader bulk = new MySqlBulkLoader(conn)
                    {
                        FieldTerminator = ",",
                        FieldQuotationCharacter = '"',
                        EscapeCharacter = '"',
                        LineTerminator = "\r\n",
                        FileName = tmpPath,
                        NumberOfLinesToSkip = 0,
                        TableName = table.TableName,
                    };
                    bulk.Columns.AddRange(table.Columns.Cast<DataColumn>().Select(colum => colum.ColumnName).ToArray());
                    insertCount = bulk.Load();
                    tran.Commit();
                }
                catch (MySqlException ex)
                {
                   // if (tran != null) tran.Rollback();
                    throw ex;
                }
            }
            File.Delete(tmpPath);
            return insertCount;
        }
 ///将DataTable转换为标准的CSV  
        /// </summary>  
        /// <param name="table">数据表</param>  
        /// <returns>返回标准的CSV</returns>  
        private static string DataTableToCsv(DataTable table)
        {
            //以半角逗号(即,)作分隔符,列为空也要表达其存在。  
            //列内容如存在半角逗号(即,)则用半角引号(即"")将该字段值包含起来。  
            //列内容如存在半角引号(即")则应替换成半角双引号("")转义,并用半角引号(即"")将该字段值包含起来。  
            StringBuilder sb = new StringBuilder();
            DataColumn colum;
            foreach (DataRow row in table.Rows)
            {
                for (int i = 0; i < table.Columns.Count; i++)
                {
                    colum = table.Columns[i];
                    if (i != 0) sb.Append(",");
                    if (colum.DataType == typeof(string) && row[colum].ToString().Contains(","))
                    {
                        sb.Append("\"" + row[colum].ToString().Replace("\"", "\"\"") + "\"");
                    }
                    else sb.Append(row[colum].ToString());
                }
                sb.AppendLine();
            }
            return sb.ToString();
        }

 

### C# 中实现 MySQL 批量插入 为了高效地执行批量插入操作,在 C#MySQL 的组合环境中可以采用多种方法来优化性能并减少网络往返次数。一种常见的方式是利用 `MySqlBulkLoader` 类,该类专为大批量数据加载设计。 下面是一个使用 `MySqlBulkLoader` 进行批量插入的例子: ```csharp using MySql.Data.MySqlClient; // 建立连接字符串 string connectionString = "Server=localhost;Database=testdb;User ID=root;Password=example;"; var conn = new MySqlConnection(connectionString); try { // 创建文件路径和表名变量 string filePath = @"C:\path\to\yourfile.csv"; string tableName = "employees"; using (conn) { conn.Open(); var bulkCopy = new MySqlBulkLoader(conn); bulkCopy.FieldTerminator = ","; bulkCopy.Line Terminator = "\r\n"; bulkCopy.FileName = filePath; bulkCopy.TableName = tableName; bulkCopy.NumberOfLinesToSkip = 0; int rowsInserted = bulkCopy.Load(); Console.WriteLine($"{rowsInserted} 行已成功插入到 {tableName}"); } } catch (Exception ex){ Console.WriteLine($"发生错误: {ex.Message}"); } finally{ if (conn.State == System.Data.ConnectionState.Open) conn.Close(); } ``` 另一种方式则是通过构建单个 SQL 插入语句来进行多条记录的同时插入。这种方式适用于较小的数据集或当无法创建临时 CSV 文件时的情况。 以下是构建多个值列表并通过一次调用来完成大量插入的一个例子: ```csharp using MySql.Data.MySqlClient; List<string[]> dataRows = GetData(); // 获取待插入数据集合 StringBuilder sbInsertQuery = new StringBuilder("INSERT INTO employees(name, age, position) VALUES "); foreach(var row in dataRows.Take(dataRows.Count() - 1)){ sbInsertQuery.Append($"('{row[0]}', '{row[1]}', '{row[2]}'),"); } sbInsertQuery.Append($"('{dataRows.Last()[0]}', '{dataRows.Last()[1]}', '{dataRows.Last()[2]}')"); string sqlStatement = sbInsertQuery.ToString(); using(MySqlConnection connection = new MySqlConnection(connectionString)) { MySqlCommand cmd = new MySqlCommand(sqlStatement, connection); try { connection.Open(); cmd.ExecuteNonQuery(); Console.WriteLine("所有记录都已成功插入."); } catch(Exception e){ Console.WriteLine(e.Message); } } ``` 这两种方法都能有效地提高效率,具体选择取决于应用场景和个人偏好[^1]。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值