easypoi 大数据 百万_使用Springboot+poi上传并处理百万级数据EXCEL

本文介绍了如何使用SpringBoot结合easypoi上传并处理百万级Excel数据,通过XSSFReader和SAX解析降低内存消耗,避免一次性加载。采取5000条数据批量插入数据库,利用Future异步处理,提高插入效率,测试显示100万数据处理只需4分钟。同时,文章提及了分批处理查询结果以避免内存溢出和超时问题。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1 Excel上传

针对Excel的上传,采用的是比较常规的方法,其实和文件上传是相同的。具体源码如下:

@PostMapping(value = "", consumes = "multipart/*", headers = "content-type=multipart/form-data")

public Map addBlacklist(

@RequestParam("file") MultipartFile multipartFile, HttpServletRequest request

) {

//判断上传内容是否符合要求

String fileName = multipartFile.getOriginalFilename();

if (!fileName.matches("^.+\\.(?i)(xls)$") && !fileName.matches("^.+\\.(?i)(xlsx)$")) {

return returnError(0,"上传的文件格式不正确");

}

String file = saveFile(multipartFile, request);

int result = 0;

try {

result = blacklistServcice.addBlackLists(file);

} catch (Exception e) {

e.printStackTrace();

}

return returnData(result);

}

private String saveFile(MultipartFile multipartFile, HttpServletRequest request) {

String path;

String fileName = multipartFile.getOriginalFilename();

// 判断文件类型

String realPath = request.getSession().getServletContext().getRealPath("/");

String trueFileName = fileName;

// 设置存放Excel文件的路径

path = realPath + trueFileName;

File file = new File(path);

if (file.exists() && file.isFile()) {

file.delete();

}

try {

multipartFile.transferTo(new File(path));

} catch (IOException e) {

e.printStackTrace();

}

return path;

}

上面的源码我们可以看见有一个saveFile方法,这个方法是将文件存在服务器本地,这样方便后续文件内容的读取,用不着一次读取所有的内容从而导致消耗大量的内存。当然这里大家如果有更好的方法希望能留言告知哈。

2 Excel处理工具源码

import org.apache.poi.openxml4j.opc.OPCPackage;

import org.apache.poi.xssf.eventusermodel.XSSFReader;

import

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值