MySQL Jdbc驱动的rewriteBatchedStatements参数使batch生效

探讨 MySQL JDBC 驱动 rewriteBatchedStatements 参数的作用,通过对比开启前后的影响,揭示其如何提升 INSERT/UPDATE/DELETE 的批量处理性能。

MySQL Jdbc驱动在默认情况下会无视executeBatch()语句,把我们期望批量执行的一组sql语句拆散,一条一条地发给MySQL数据库,直接造成较低的性能。

 

只有把rewriteBatchedStatements参数置为true, 驱动才会帮你批量执行SQL (jdbc:mysql://ip:port/db?rewriteBatchedStatements=true)。不过,驱动具体是怎么样批量执行的? 你是不是需要看一下内幕,才敢放心地使用这个选项? 下文会给出答案。

 

另外,有人说rewriteBatchedStatements只对INSERT有效,有人说它对UPDATE/DELETE也有效。为此我做了一些实验(详见下文),结论是: 这个选项对INSERT/UPDATE/DELETE都有效,只不过对INSERT它为会预先重排一下SQL语句

注:本文使用的mysql驱动版本是5.1.12

实验记录:未打开rewriteBatchedStatements时

未打开rewriteBatchedStatements时,根据wireshark嗅探出的mysql报文可以看出,

batchDelete(10条记录)  =>  发送10次delete 请求

batchUpdate(10条记录)  =>  发送10次update 请求

batchInsert(10条记录)  =>  发送10次insert 请求

 

也就是说,batchXXX()的确不起作用

 

实验记录:打开了rewriteBatchedStatements后

打开rewriteBatchedStatements后,根据wireshark嗅探出的mysql报文可以看出

 

batchDelete(10条记录)  =>  发送一次请求,内容为”delete from t where id = 1; delete from t where id = 2; delete from t where id = 3; ….”

batchUpdate(10条记录)  =>  发送一次请求,内容为”update t set … where id = 1; update t set … where id = 2; update t set … where id = 3 …”

batchInsert(10条记录)  =>   发送一次请求,内容为”insert into t (…) values (…) , (…), (…)”

 

对delete和update,驱动所做的事就是把多条sql语句累积起来再一次性发出去;而对于insert,驱动则会把多条sql语句重写成一条风格很酷的sql语句,然后再发出去。 官方文档说,这种insert写法可以提高性能(”This is considerably faster (many times faster in some cases) than using separate single-row INSERT statements”)

 

一个注意事项

需要注意的是,即使rewriteBatchedStatements=true, batchDelete()和batchUpdate()也不一定会走批量: 当batchSize <= 3时,驱动会宁愿一条一条地执行SQL。所以,如果你想验证rewriteBatchedStatements在你的系统里是否已经生效,记得要使用较大的batch.

对应的代码

最后可以看下对应的MySQL  JDBC驱动的代码,以加深印象:

clip_image002[4]

 

转载于:https://my.oschina.net/u/2300159/blog/783613

### JDBC连接MySQL数据库批量插入数据 #### 准备工作 为了实现JDBC连接到MySQL并进行批量插入操作,需先加载相应的驱动程序,并建立与目标数据库的连接。这通常涉及设置正确的JDBC URL来指定要访问的具体数据库实例[^2]。 #### 创建批处理对象 在Java应用程序中准备Statement或PreparedStatement接口的一个实例,用于发送SQL语句至数据库服务器。对于批量插入来说,推荐使用`PreparedStatement`因为它能有效防止SQL注入攻击的同时提高性能[^3]。 #### 设置自动提交属性 默认情况下,每次执行更新都会立即生效;然而,在批量插入场景里,关闭事务的自动提交功能可以让所有更改在一个单独的事务内完成,从而减少磁盘I/O次数,提升效率。可以通过调用Connection对象上的方法来改变此行为: ```java connection.setAutoCommit(false); ``` #### 添加批处理指令 利用`addBatch()`函数向预编译好的SQL命令添加参数化值集,之后再一次性提交整个批次的数据给数据库引擎处理。下面是一个具体的例子展示怎样构建这样的流程[^1]: ```java String sql = "INSERT INTO table_name (column1, column2) VALUES (?, ?)"; try(PreparedStatement pstmt = connection.prepareStatement(sql)){ for(int i=0; i<list.size(); ++i){ Object[] row = list.get(i); // 假设每条记录存储于数组形式的对象列表之中 pstmt.setObject(1, row[0]); pstmt.setObject(2, row[1]); pstmt.addBatch(); if((i+1)%batchSize==0 || i==(list.size()-1)){// 当达到设定大小或是最后一组时执行批处理 pstmt.executeBatch(); connection.commit(); // 清除之前的批处理以防内存溢出 pstmt.clearBatch(); } } }catch(Exception e){ try{ connection.rollback();// 发生异常则回滚交易 }catch(SQLException ex){} } finally { connection.setAutoCommit(true);// 操作完成后恢复初始状态 } ``` 上述代码片段展示了如何高效地将大量数据分批写入MySQL表中的方式之一。值得注意的是,这里还包含了错误处理逻辑以确保即使遇到问题也能保持数据的一致性和完整性。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值