Jpa写入数据过慢-批量插入

本文探讨了在数据库操作中,从单条数据插入到批量数据插入的优化策略,尤其是在处理大量数据时如何提升效率。通过对比分析,介绍了批量插入的具体实现方式及注意事项。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1. 问题背景

  1. 一开始写的插入到数据库的语句是一条条的插入,如下面所示
 @PostMapping("/addList")
   public void addListModelParams(@RequestBody List<SimModelParamsEntity> list) {
	  
		if (list.size() == 0) {
			throw new RuntimeException("集合为空!") ;
		} else {
			for (SimModelParamsEntity s : list) {
				simModelParamsDao.save(s);
			}
			
		}
	}
  1. 按照上面的方式时,当一次性插入上千条数据且数据库已有很多数据时,则会速度很慢,具体原因是
    save和saveAll方法是面向业务的,每次插入都需要验证当前数据是否为新数据
    @Transactional
    public <S extends T> S save(S entity) {
        if (this.entityInformation.isNew(entity)) {
            this.em.persist(entity);
            return entity;
        } else {
            return this.em.merge(entity);
        }
    }

2. 批量插入

@PostMapping("/addList")
   public void addListModelParams(@RequestBody List<SimModelParamsEntity> list) {
	    int listsize = list.size();
		if (listsize == 0) {
			throw new RuntimeException("集合为空!") ;
		} else {
			
			//批量存储的集合
			List<SimModelParamsEntity> data = new ArrayList<SimModelParamsEntity>();
			
			//批量存储
			for (SimModelParamsEntity s : list) {
				
				if(data.size() == listsize/10) {
					simModelParamsDao.save(data);
					data.clear();
				}
				data.add(s);
			}
			//将剩下的数据也导入
			if(!data.isEmpty()) {
				simModelParamsDao.save(data);
			}
			log.info("simmodelparams addlist  success");
		}
	}
回答: 如果您在使用JPA进行批量插入数据时遇到了速度慢的问题,可以尝试以下几个方法来提高性能。首先,您可以在应用的配置文件中进行一些调整。通过设置`spring.jpa.properties.hibernate.jdbc.batch_size`属性,您可以指定批量操作的大小,这可以减少与数据库的通信次数,从而提高性能。另外,您还可以设置`spring.jpa.properties.hibernate.jdbc.batch_versioned_data`属性为`true`,以告诉Hibernate JDBC驱动程序在执行批量更新时返回正确的受影响行数。此外,您可以开启批量插入批量更新功能,通过设置`spring.jpa.properties.hibernate.order_inserts`和`spring.jpa.properties.hibernate.order_updates`属性为`true`来实现。\[1\] 其次,您可以调整数据库的配置。对于国产神通数据库,您可以在jdbc_url中添加`rewriteBatchedStatements=TRUE`参数来开启批量操作的优化。这可以提高批量插入的性能。\[2\] 最后,您还可以创建一个自定义的Repository接口,并继承`JpaRepository`和`JpaSpecificationExecutor`接口。在该接口中,您可以定义一个`batchSave`方法,使用`@Transactional`注解来确保批量插入操作在一个事务中执行。这样可以提高性能并减少数据库的负载。\[3\] 通过以上方法的调整,您应该能够提高JPA批量插入数据的速度。希望对您有帮助! #### 引用[.reference_title] - *1* *2* *3* [Spring Data JPA批量插入过慢及其优化 —— 自定义Repository](https://blog.youkuaiyun.com/tfstone/article/details/113741890)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]
评论 15
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值