java导出20w条数据

2024-04-03 09:28
文章标签 java 数据 导出 20w

本文主要是介绍java导出20w条数据,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

文章目录

  • 前言
  • 一、前端代码
  • 二、后端代码
  • 总结


前言

在上次写的java导出excel的后,在导出20w条数据时出现了请求超时的情况,而且一次查询超多的数据会很慢,所以修改了一下,
针对数据量一旦过大前端请求需要一直等待超时的情况将前端请求改为异步请求,请求完之后让后台自己跑,跑完直接下载;
在查询数据时改为分页查询;
之前的放回excel,base64字符串前端模拟点击下载,改为先生成excel,返回生成的文件名,直接访问地址下载

一、前端代码

  async doExport() {let that = this;if(that.expflag){eframe.showToast("正在导出中");return;}that.expflag = true;let rqurl = constData.baseUrl + "/export";try {const response = await axios.get(rqurl, {params: {aab004:that.form.aab301,bab001:that.form.bab001,aab998:that.form.aab998,ddz128:that.form.ddz128,ddz183:that.form.ddz183,c_date:that.form.c_date}});var fileName = response.fileName;if (fileName != null && fileName != "") {var url = constData.baseUrl + "/download/"+fileName;that.expflag = false;window.location.href = url;}} catch (error) {that.expflag = false;console.error('Error:', error);}}

二、后端代码

@ResponseBody@RequestMapping(value = "/export",)public void export(HttpServletRequest request, HttpServletResponse response) throws BusinessException, UnsupportedEncodingException {String expFile;// 获取当前日期时间Date currentDate = new Date();// 定义日期时间格式SimpleDateFormat dateFormat = new SimpleDateFormat("yyyyMMddHHmmss");// 格式化当前日期时间String formattedDateTime = dateFormat.format(currentDate);// 构建新的文件名File file = null;expFile = "";FileOutputStream out = null;expFile = expFile + "excel" + formattedDateTime + "file.xlsx";file = this.creatDownloadFile(request, expFile);String aab004 = request.getParameter("aab004");String bab001 = request.getParameter("bab001");String aab998 = request.getParameter("aab998");String ddz128 = request.getParameter("ddz128");String ddz183 = request.getParameter("ddz183");String c_date = request.getParameter("c_date");file = ecoTownEnterpriseExportForm.getFile();System.out.println("==========开始导出===========");try {// 创建工作簿Workbook book = null;Sheet ws = null;Cell labelC = null;InputStream base = null;int sheetIndex = 0;if (file.isFile()) {base = new FileInputStream(file.getPath());} else {String path = request.getSession().getServletContext().getRealPath("") + "/resources/file/template/" + "base.xlsx";//System.out.println("文件是否存在:" + new File(path).exists());base = new FileInputStream(path);}book = new XSSFWorkbook(base);((InputStream) base).close();try {ws = book.getSheetAt(sheetIndex);} catch (Exception var32) {book.createSheet("sheet" + sheetIndex);ws = book.getSheetAt(sheetIndex);}int x = 1;int i = 0;Row row = ws.createRow(0);int xx;List<String> headRow = new ArrayList<>();headRow.add("单位社保编号");headRow.add("统一社会信用代码");headRow.add("单位名称");headRow.add("法定代表人");headRow.add("电话");headRow.add("身份证号");headRow.add("联系人");headRow.add("联系电话");headRow.add("单位地址");headRow.add("经营地址");headRow.add("月份");for (xx = 0; xx < headRow.size(); xx++) {labelC = row.createCell(xx, 1);String title = (headRow.get(xx));labelC.setCellValue(title);ws.setColumnWidth(xx, 4000);}EcoDTO ecoDTO = new EcoDTO();ecoDTO rowData = null;ecoDTO.setPageSize(new BigDecimal(10000));//分页查询每页数量List<EcoDTO> data = null;label240:while (true) {ecoDTO.setPageIndex(new BigDecimal(x));//分页查询 第几页data = DZ42.getEcoDtoList(ecoDTO);System.out.println("查第" + x + "次");++x;if (data != null && !data.isEmpty()) {xx = 0;while (true) {if (xx >= data.size()) {continue label240;}rowData = data.get(xx);row = ws.createRow(i + 1);// 设置数据行内容,这里需要根据实际情况设置每一列的数据row.createCell(0).setCellValue(rowData.getDdz128());row.createCell(1).setCellValue(rowData.getDdz183());row.createCell(2).setCellValue(rowData.getBab001());row.createCell(3).setCellValue(rowData.getAab998());row.createCell(4).setCellValue(rowData.getAab004());row.createCell(5).setCellValue(rowData.getAab013());row.createCell(6).setCellValue(rowData.getAae005());row.createCell(7).setCellValue(rowData.getAac147());row.createCell(8).setCellValue(rowData.getLxr());row.createCell(9).setCellValue(rowData.getLxdh());row.createCell(10).setCellValue(rowData.getDwdz());row.createCell(11).setCellValue(rowData.getJydz());row.createCell(12).setCellValue(rowData.getC_date());++i;++xx;}}book.setActiveSheet(sheetIndex);out = new FileOutputStream(file);book.write(out);break;}} catch (Exception var36) {var36.printStackTrace();throw new BusinessException(var36);} finally {if (out != null) {try {out.close();} catch (Exception var34) {throw new BusinessException(var34);}}System.out.println("==========结束导出===========");}JSONObject responseJson = new JSONObject();response.setHeader("Service-Type", "Servlet");response.setContentType("application/json;charset=UTF-8");// 直接将responseJsonStr发送回客户端responseJson.put("fileName",expFile);try {response.getWriter().write(responseJson.toJSONString());response.getWriter().flush();} catch (IOException e) {e.printStackTrace();}}

总结

虽然成功的导出了20w条数据,写完之后我测试了一下没有问题,又用了30w条也没问题,但是当导出40w条数据时出现了

org.springframework.web.util.NestedServletException: Handler dispatch
failed; nested exception is java.lang.OutOfMemoryError: Java heap
space

Java 堆空间不足,暂时还没解决,不知道怎么整。生产环境暂时数据量还没到所有不会报错,有没有大神提点建议,感激不尽。

这篇关于java导出20w条数据的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/872528

相关文章

vue使用docxtemplater导出word

《vue使用docxtemplater导出word》docxtemplater是一种邮件合并工具,以编程方式使用并处理条件、循环,并且可以扩展以插入任何内容,下面我们来看看如何使用docxtempl... 目录docxtemplatervue使用docxtemplater导出word安装常用语法 封装导出方

Java编译生成多个.class文件的原理和作用

《Java编译生成多个.class文件的原理和作用》作为一名经验丰富的开发者,在Java项目中执行编译后,可能会发现一个.java源文件有时会产生多个.class文件,从技术实现层面详细剖析这一现象... 目录一、内部类机制与.class文件生成成员内部类(常规内部类)局部内部类(方法内部类)匿名内部类二、

SpringBoot实现数据库读写分离的3种方法小结

《SpringBoot实现数据库读写分离的3种方法小结》为了提高系统的读写性能和可用性,读写分离是一种经典的数据库架构模式,在SpringBoot应用中,有多种方式可以实现数据库读写分离,本文将介绍三... 目录一、数据库读写分离概述二、方案一:基于AbstractRoutingDataSource实现动态

Springboot @Autowired和@Resource的区别解析

《Springboot@Autowired和@Resource的区别解析》@Resource是JDK提供的注解,只是Spring在实现上提供了这个注解的功能支持,本文给大家介绍Springboot@... 目录【一】定义【1】@Autowired【2】@Resource【二】区别【1】包含的属性不同【2】@

springboot循环依赖问题案例代码及解决办法

《springboot循环依赖问题案例代码及解决办法》在SpringBoot中,如果两个或多个Bean之间存在循环依赖(即BeanA依赖BeanB,而BeanB又依赖BeanA),会导致Spring的... 目录1. 什么是循环依赖?2. 循环依赖的场景案例3. 解决循环依赖的常见方法方法 1:使用 @La

Java枚举类实现Key-Value映射的多种实现方式

《Java枚举类实现Key-Value映射的多种实现方式》在Java开发中,枚举(Enum)是一种特殊的类,本文将详细介绍Java枚举类实现key-value映射的多种方式,有需要的小伙伴可以根据需要... 目录前言一、基础实现方式1.1 为枚举添加属性和构造方法二、http://www.cppcns.co

Elasticsearch 在 Java 中的使用教程

《Elasticsearch在Java中的使用教程》Elasticsearch是一个分布式搜索和分析引擎,基于ApacheLucene构建,能够实现实时数据的存储、搜索、和分析,它广泛应用于全文... 目录1. Elasticsearch 简介2. 环境准备2.1 安装 Elasticsearch2.2 J

Java中的String.valueOf()和toString()方法区别小结

《Java中的String.valueOf()和toString()方法区别小结》字符串操作是开发者日常编程任务中不可或缺的一部分,转换为字符串是一种常见需求,其中最常见的就是String.value... 目录String.valueOf()方法方法定义方法实现使用示例使用场景toString()方法方法

Java中List的contains()方法的使用小结

《Java中List的contains()方法的使用小结》List的contains()方法用于检查列表中是否包含指定的元素,借助equals()方法进行判断,下面就来介绍Java中List的c... 目录详细展开1. 方法签名2. 工作原理3. 使用示例4. 注意事项总结结论:List 的 contain

Java实现文件图片的预览和下载功能

《Java实现文件图片的预览和下载功能》这篇文章主要为大家详细介绍了如何使用Java实现文件图片的预览和下载功能,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... Java实现文件(图片)的预览和下载 @ApiOperation("访问文件") @GetMapping("