mysql批量插入防重复

防重复插入大致有以下几种:

insert ignore into: 结合主键或者唯一索引

on duplicate key update

insert into … select … where not exists

replace into

注意:这里主要对<foreach> 中 separator用union all 

<insert id="insertBatch">
    insert into t_activity_obj (activity_id, target_id, target_type, sort)
    <foreach collection="targets" item="item" separator="union all">
    ( select #{activityId}, #{item.targetId}, #{item.targetType}, ifnull(#{item.sort}, 999) 
      from dual
      where not exists (
          select activity_obj_id from t_activity_obj
          where activity_id=#{activityId} and target_id=#{item.targetId} 
          and target_type=#{item.targetType})
    )
    </foreach>
  </insert>

 

### MySQL 批量插入过程中的死锁现象及预 #### 死锁定义与成因 当多个事务试图以循环方式锁定相同的资源时,就会发生死锁。具体来说,在MySQL中,如果两个或更多事务相互等待对方释放锁,而这些事务又都无法继续执行下去,就形成了死锁情况[^1]。 对于批量插入操作而言,常见的死锁原因包括但不限于: - 插入数据涉及到相同记录上的排他锁请求; - 不同会话按照不同顺序获取同一组行级锁; - 使用`index_merge`优化器策略导致不必要的额外加锁行为; #### 查询当前系统的锁争用状况 为了更好地理解系统内部发生的锁竞争情形,可以通过以下SQL语句来查看InnoDB存储引擎级别的行级别锁统计信息: ```sql SHOW STATUS LIKE 'innodb_row_lock%'; ``` 该命令返回的结果可以帮助诊断是否存在潜在的高频率锁冲突问题[^2]。 #### 解决策略 针对上述提到的各种可能引发死锁的因素,采取相应的措施能够有效降低甚至消除死锁的发生几率: ##### 合理设计表结构并建立适当索引 确保数据库模式合理高效,特别是要考虑到并发写入场景下的性能需求。例如,创建合适的联合索引可以让查询更精确地定位目标数据集,从而减少不必要的锁范围扩大化倾向。这不仅有助于提高吞吐量,也能间接缓解由不当索引引起的死锁风险[^3]。 ##### 控制事务隔离级别 调整默认读已提交(Read Committed)或者可重复读(Repeatable Read)之外更低强度的一致性保障机制——脏读(Dirty Reads),虽然这样做可能会引入其他类型的不一致性问题,但在某些特定应用场景下确实可以显著改善多版本控制开销过高的局面,进而减轻死锁压力。 ##### 调整应用逻辑实现重试机制 应用程序层面应该具备处理异常的能力,即一旦检测到发生了死锁错误(通常是通过捕获特定编号如1213),则立即回滚失败交易,并稍作延时之后再次尝试发起同样的更新动作直到成功为止。这种做法既简单又能很好地应对偶发性的短暂阻塞事件。 ##### 优化批处理流程 尽可能将大批量的数据拆分成较小批次逐步加载入库,这样做的好处是可以让每次DML操作影响的对象数量更加可控,同时也减少了长时间持有共享/独占锁的可能性。 #### 实际案例分析 假设有一个电商网站后台管理系统正在经历频繁的商品库存同步任务期间遭遇大量死锁报警提示。经过排查发现是因为商品分类维度较多且存在交叉关联关系所致。于是决定重构原有业务模型,新增一张专门用于维护实时库存快照视图的小型辅助表格,并为之配置复合唯一键作为主键字段组合之一。这样一来既满足了快速检索的要求也规避掉了原生大宽表带来的复杂依赖链路所造成的各种麻烦事端。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值