java导出20w条数据

2024-04-03 09:28
文章标签 java 数据 导出 20w

本文主要是介绍java导出20w条数据,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

文章目录

  • 前言
  • 一、前端代码
  • 二、后端代码
  • 总结


前言

在上次写的java导出excel的后,在导出20w条数据时出现了请求超时的情况,而且一次查询超多的数据会很慢,所以修改了一下,
针对数据量一旦过大前端请求需要一直等待超时的情况将前端请求改为异步请求,请求完之后让后台自己跑,跑完直接下载;
在查询数据时改为分页查询;
之前的放回excel,base64字符串前端模拟点击下载,改为先生成excel,返回生成的文件名,直接访问地址下载

一、前端代码

  async doExport() {let that = this;if(that.expflag){eframe.showToast("正在导出中");return;}that.expflag = true;let rqurl = constData.baseUrl + "/export";try {const response = await axios.get(rqurl, {params: {aab004:that.form.aab301,bab001:that.form.bab001,aab998:that.form.aab998,ddz128:that.form.ddz128,ddz183:that.form.ddz183,c_date:that.form.c_date}});var fileName = response.fileName;if (fileName != null && fileName != "") {var url = constData.baseUrl + "/download/"+fileName;that.expflag = false;window.location.href = url;}} catch (error) {that.expflag = false;console.error('Error:', error);}}

二、后端代码

@ResponseBody@RequestMapping(value = "/export",)public void export(HttpServletRequest request, HttpServletResponse response) throws BusinessException, UnsupportedEncodingException {String expFile;// 获取当前日期时间Date currentDate = new Date();// 定义日期时间格式SimpleDateFormat dateFormat = new SimpleDateFormat("yyyyMMddHHmmss");// 格式化当前日期时间String formattedDateTime = dateFormat.format(currentDate);// 构建新的文件名File file = null;expFile = "";FileOutputStream out = null;expFile = expFile + "excel" + formattedDateTime + "file.xlsx";file = this.creatDownloadFile(request, expFile);String aab004 = request.getParameter("aab004");String bab001 = request.getParameter("bab001");String aab998 = request.getParameter("aab998");String ddz128 = request.getParameter("ddz128");String ddz183 = request.getParameter("ddz183");String c_date = request.getParameter("c_date");file = ecoTownEnterpriseExportForm.getFile();System.out.println("==========开始导出===========");try {// 创建工作簿Workbook book = null;Sheet ws = null;Cell labelC = null;InputStream base = null;int sheetIndex = 0;if (file.isFile()) {base = new FileInputStream(file.getPath());} else {String path = request.getSession().getServletContext().getRealPath("") + "/resources/file/template/" + "base.xlsx";//System.out.println("文件是否存在:" + new File(path).exists());base = new FileInputStream(path);}book = new XSSFWorkbook(base);((InputStream) base).close();try {ws = book.getSheetAt(sheetIndex);} catch (Exception var32) {book.createSheet("sheet" + sheetIndex);ws = book.getSheetAt(sheetIndex);}int x = 1;int i = 0;Row row = ws.createRow(0);int xx;List<String> headRow = new ArrayList<>();headRow.add("单位社保编号");headRow.add("统一社会信用代码");headRow.add("单位名称");headRow.add("法定代表人");headRow.add("电话");headRow.add("身份证号");headRow.add("联系人");headRow.add("联系电话");headRow.add("单位地址");headRow.add("经营地址");headRow.add("月份");for (xx = 0; xx < headRow.size(); xx++) {labelC = row.createCell(xx, 1);String title = (headRow.get(xx));labelC.setCellValue(title);ws.setColumnWidth(xx, 4000);}EcoDTO ecoDTO = new EcoDTO();ecoDTO rowData = null;ecoDTO.setPageSize(new BigDecimal(10000));//分页查询每页数量List<EcoDTO> data = null;label240:while (true) {ecoDTO.setPageIndex(new BigDecimal(x));//分页查询 第几页data = DZ42.getEcoDtoList(ecoDTO);System.out.println("查第" + x + "次");++x;if (data != null && !data.isEmpty()) {xx = 0;while (true) {if (xx >= data.size()) {continue label240;}rowData = data.get(xx);row = ws.createRow(i + 1);// 设置数据行内容,这里需要根据实际情况设置每一列的数据row.createCell(0).setCellValue(rowData.getDdz128());row.createCell(1).setCellValue(rowData.getDdz183());row.createCell(2).setCellValue(rowData.getBab001());row.createCell(3).setCellValue(rowData.getAab998());row.createCell(4).setCellValue(rowData.getAab004());row.createCell(5).setCellValue(rowData.getAab013());row.createCell(6).setCellValue(rowData.getAae005());row.createCell(7).setCellValue(rowData.getAac147());row.createCell(8).setCellValue(rowData.getLxr());row.createCell(9).setCellValue(rowData.getLxdh());row.createCell(10).setCellValue(rowData.getDwdz());row.createCell(11).setCellValue(rowData.getJydz());row.createCell(12).setCellValue(rowData.getC_date());++i;++xx;}}book.setActiveSheet(sheetIndex);out = new FileOutputStream(file);book.write(out);break;}} catch (Exception var36) {var36.printStackTrace();throw new BusinessException(var36);} finally {if (out != null) {try {out.close();} catch (Exception var34) {throw new BusinessException(var34);}}System.out.println("==========结束导出===========");}JSONObject responseJson = new JSONObject();response.setHeader("Service-Type", "Servlet");response.setContentType("application/json;charset=UTF-8");// 直接将responseJsonStr发送回客户端responseJson.put("fileName",expFile);try {response.getWriter().write(responseJson.toJSONString());response.getWriter().flush();} catch (IOException e) {e.printStackTrace();}}

总结

虽然成功的导出了20w条数据,写完之后我测试了一下没有问题,又用了30w条也没问题,但是当导出40w条数据时出现了

org.springframework.web.util.NestedServletException: Handler dispatch
failed; nested exception is java.lang.OutOfMemoryError: Java heap
space

Java 堆空间不足,暂时还没解决,不知道怎么整。生产环境暂时数据量还没到所有不会报错,有没有大神提点建议,感激不尽。

这篇关于java导出20w条数据的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/872528

相关文章

JVM 的类初始化机制

前言 当你在 Java 程序中new对象时,有没有考虑过 JVM 是如何把静态的字节码(byte code)转化为运行时对象的呢,这个问题看似简单,但清楚的同学相信也不会太多,这篇文章首先介绍 JVM 类初始化的机制,然后给出几个易出错的实例来分析,帮助大家更好理解这个知识点。 JVM 将字节码转化为运行时对象分为三个阶段,分别是:loading 、Linking、initialization

Spring Security 基于表达式的权限控制

前言 spring security 3.0已经可以使用spring el表达式来控制授权,允许在表达式中使用复杂的布尔逻辑来控制访问的权限。 常见的表达式 Spring Security可用表达式对象的基类是SecurityExpressionRoot。 表达式描述hasRole([role])用户拥有制定的角色时返回true (Spring security默认会带有ROLE_前缀),去

浅析Spring Security认证过程

类图 为了方便理解Spring Security认证流程,特意画了如下的类图,包含相关的核心认证类 概述 核心验证器 AuthenticationManager 该对象提供了认证方法的入口,接收一个Authentiaton对象作为参数; public interface AuthenticationManager {Authentication authenticate(Authenti

Spring Security--Architecture Overview

1 核心组件 这一节主要介绍一些在Spring Security中常见且核心的Java类,它们之间的依赖,构建起了整个框架。想要理解整个架构,最起码得对这些类眼熟。 1.1 SecurityContextHolder SecurityContextHolder用于存储安全上下文(security context)的信息。当前操作的用户是谁,该用户是否已经被认证,他拥有哪些角色权限…这些都被保

Spring Security基于数据库验证流程详解

Spring Security 校验流程图 相关解释说明(认真看哦) AbstractAuthenticationProcessingFilter 抽象类 /*** 调用 #requiresAuthentication(HttpServletRequest, HttpServletResponse) 决定是否需要进行验证操作。* 如果需要验证,则会调用 #attemptAuthentica

Spring Security 从入门到进阶系列教程

Spring Security 入门系列 《保护 Web 应用的安全》 《Spring-Security-入门(一):登录与退出》 《Spring-Security-入门(二):基于数据库验证》 《Spring-Security-入门(三):密码加密》 《Spring-Security-入门(四):自定义-Filter》 《Spring-Security-入门(五):在 Sprin

Java架构师知识体认识

源码分析 常用设计模式 Proxy代理模式Factory工厂模式Singleton单例模式Delegate委派模式Strategy策略模式Prototype原型模式Template模板模式 Spring5 beans 接口实例化代理Bean操作 Context Ioc容器设计原理及高级特性Aop设计原理Factorybean与Beanfactory Transaction 声明式事物

大模型研发全揭秘:客服工单数据标注的完整攻略

在人工智能(AI)领域,数据标注是模型训练过程中至关重要的一步。无论你是新手还是有经验的从业者,掌握数据标注的技术细节和常见问题的解决方案都能为你的AI项目增添不少价值。在电信运营商的客服系统中,工单数据是客户问题和解决方案的重要记录。通过对这些工单数据进行有效标注,不仅能够帮助提升客服自动化系统的智能化水平,还能优化客户服务流程,提高客户满意度。本文将详细介绍如何在电信运营商客服工单的背景下进行

基于MySQL Binlog的Elasticsearch数据同步实践

一、为什么要做 随着马蜂窝的逐渐发展,我们的业务数据越来越多,单纯使用 MySQL 已经不能满足我们的数据查询需求,例如对于商品、订单等数据的多维度检索。 使用 Elasticsearch 存储业务数据可以很好的解决我们业务中的搜索需求。而数据进行异构存储后,随之而来的就是数据同步的问题。 二、现有方法及问题 对于数据同步,我们目前的解决方案是建立数据中间表。把需要检索的业务数据,统一放到一张M

关于数据埋点,你需要了解这些基本知识

产品汪每天都在和数据打交道,你知道数据来自哪里吗? 移动app端内的用户行为数据大多来自埋点,了解一些埋点知识,能和数据分析师、技术侃大山,参与到前期的数据采集,更重要是让最终的埋点数据能为我所用,否则可怜巴巴等上几个月是常有的事。   埋点类型 根据埋点方式,可以区分为: 手动埋点半自动埋点全自动埋点 秉承“任何事物都有两面性”的道理:自动程度高的,能解决通用统计,便于统一化管理,但个性化定