大文件分块上传和续传

2024-08-29 01:12
文章标签 上传 分块 和续

本文主要是介绍大文件分块上传和续传,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

给出一个Spring Boot项目中完成大文件分块上传和续传功能的完整示例代码解释,下面的示例将集中展示前端与后端的交互过程,将分别从客户端(前端)以及服务器端(后端)实现的角度来看实现思路。

定前端使用了axios进行与后端的交互,后端则利用Spring Boot来响应前端的请求和处理文件。

客户端(前端)实现

客户端的实现主要是利用axios或任何HTTP库,如fetch,来分块上传文件。在中断或失败后,能够获取已上传的信息并从断点处续传。

const axios = require('axios');
const FormData = require('form-data');let currentOffset = 0;const uploadFile = async (file, url) => {const chunkSize = 100 * 1024 * 1024; // 设定每块为100MBconst totalSize = file.size;let formData = null;for (let offset = currentOffset; offset < totalSize; offset += chunkSize) {let end = Math.min(totalSize, offset + chunkSize);formData = new FormData();formData.append('file', file.slice(offset, end));formData.append('offset', offset.toString());try {const response = await axios.post(url, formData, {headers: {'Content-Type': `multipart/form-data; boundary=${formData._boundary}`,},});if (response.data && response.data.status === 'ok') {currentOffset = end;}} catch (error) {console.error(`上传失败, 尝试重新上传片段: offset=${offset}`);await new Promise(resolve => setTimeout(resolve, 3000)); // 简易重试机制}}
};// 使用
uploadFile(myFile, 'http://localhost:8080/uploadChunk');

在上述前端代码中,以固定大小(例如100MB)的chunk size分割文件,每个块由axios发送到后端服务器。同时会从断点处继续上传前块未传完的部分。

服务器端(后端)实现

在服务器端(后端)实现要确保正确拼接接收到的文件块,使用AtomicLong或其他数据库来持久化偏移量情况,便于跟踪文件的上传状态。

import org.springframework.http.ResponseEntity;
import org.springframework.web.bind.annotation.PostMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.multipart.MultipartFile;
import org.springframework.http.HttpStatus;import java.io.IOException;
import java.nio.file.Paths;
import java.util.concurrent.atomic.AtomicLong;@RestController
public class FileUploadController {AtomicLong currentOffset = new AtomicLong(0);private final static String UPLOAD_FOLDER = Paths.get(System.getProperty("user.home"), "uploads").toString();private final static long CHUNK_SIZE = 100 * 1024 * 1024; // 与前端chunk size相同@PostMapping("/uploadChunk")public ResponseEntity<String> handleFileUpload(@RequestParam("file") MultipartFile file,@RequestParam("offset") long offset) throws IOException {long end = Math.min(offset + file.getSize(), file.getSize());if (currentOffset.get() < offset) {currentOffset.set(offset);}Path filePath = Paths.get(UPLOAD_FOLDER, "uploadedFile");Files.createDirectories(filePath.getParent());Files.write(filePath, file.getBytes(), StandardOpenOption.APPEND);currentOffset.set(end);return ResponseEntity.status(HttpStatus.OK).body("{\"status\": \"ok\"}");}
}

在后端代码段中,接收分块并拼接文件,同时通过AtomicLong或其他方法储存断点上传的状态。

总结

从嵌入上述示例代码中,控制与处理大文件的断点续传与分块上传,关键技能遵照如下:

  1. 连续和可恢复的上传方案 – 前端处理正确分块的文件,后端则保证按文件块合并存储。
  2. 状态追踪 – 最佳实践是将状态信息持久化,以便在长时间运行或服务重启之后可以重新获取信息。
  3. 健壮的错误处理 – 在可能的失败场景下提供适当的异常处理与重试机制。
  4. 前后端一致 – 持有相同的chunk大小,可以避免编码中对于边界处理的复杂逻辑,从而减少出错的几率。

增进完善与优化策略

上述方案的直观,初步简推出了大文件的分块上传与断点续传结构。然而,通常在生产系统中,会添加更多高级特性以优化性能和可靠性。比如使用数据库存储上传状态(而非在内存中存储),采用更复杂的错误恢复策略,建立互操作协议报告上传进度,引入健康检查机制确认网络或系统状态,利用分布式系统(如云存储)优势中实现数据冗余等。

这篇关于大文件分块上传和续传的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1116422

相关文章

Spring MVC 图片上传

引入需要的包 <dependency><groupId>commons-logging</groupId><artifactId>commons-logging</artifactId><version>1.1</version></dependency><dependency><groupId>commons-io</groupId><artifactId>commons-

在SSH的基础上使用jquery.uploadify.js上传文件

在SSH框架的基础上,使用jquery.uploadify.js实现文件的上传,之前搞了好几天,都上传不了, 在Action那边File接收到的总是为null, 为了这个还上网搜了好多相关的信息,但都不行,最后还是搜到一篇文章帮助到我了,希望能帮助到为之困扰的人。 jsp页面的关键代码: <link rel="stylesheet" type="text/css" href="${page

【CTF Web】BUUCTF Upload-Labs-Linux Pass-13 Writeup(文件上传+PHP+文件包含漏洞+PNG图片马)

Upload-Labs-Linux 1 点击部署靶机。 简介 upload-labs是一个使用php语言编写的,专门收集渗透测试和CTF中遇到的各种上传漏洞的靶场。旨在帮助大家对上传漏洞有一个全面的了解。目前一共20关,每一关都包含着不同上传方式。 注意 1.每一关没有固定的通关方法,大家不要自限思维! 2.本项目提供的writeup只是起一个参考作用,希望大家可以分享出自己的通关思路

Vue3上传图片报错:Current request is not a multipart request

当你看到错误 "Current request is not a multipart request" 时,这通常意味着你的服务器或后端代码期望接收一个 multipart/form-data 类型的请求,但实际上并没有收到这样的请求。在使用 <el-upload> 组件时,如果你已经设置了 http-request 属性来自定义上传行为,并且遇到了这个错误,可能是因为你在发送请求时没有正确地设置

OpenStack:Glance共享与上传、Nova操作选项解释、Cinder操作技巧

目录 Glance member task Nova lock shelve rescue Cinder manage local-attach transfer backup-export 总结 原作者:int32bit,参考内容 从2013年开始折腾OpenStack也有好几年的时间了。在使用过程中,我发现有很多很有用的操作,但是却很少被提及。这里我暂不直接

使用http-request 属性替代action绑定上传URL

在 Element UI 的 <el-upload> 组件中,如果你需要为上传的 HTTP 请求添加自定义的请求头(例如,为了通过身份验证或满足服务器端的特定要求),你不能直接在 <el-upload> 组件的属性中设置这些请求头。但是,你可以通过 http-request 属性来自定义上传的行为,包括设置请求头。 http-request 属性允许你完全控制上传的行为,包括如何构建请求、发送请

Vue3图片上传报错:Required part ‘file‘ is not present.

错误 "Required part 'file' is not present" 通常表明服务器期望在接收到的 multipart/form-data 请求中找到一个名为 file 的部分(即文件字段),但实际上没有找到。这可能是因为以下几个原因: 请求体构建不正确:在发送请求时,可能没有正确地将文件添加到 FormData 对象中,或者使用了错误的字段名。 前端代码错误:在前端代码中,可能

【SpringMVC学习06】SpringMVC中实现文件上传

1. 环境准备 springmvc上传文件的功能需要两个jar包的支持,如下 2. 单个文件的上传 2.1 前台页面 简单的写一下前台页面,注意一点的是form表单中别忘了写enctype=”multipart/form-data”属性: <tr><td>商品图片</td><td><c:if test="${itemsCustom.pic !=null}"><img src="/f

使用Vant Uploader 文件上传,后端java中MultipartFile接收不到文件问题解决

问题 在Uploader组件 after-read回调函数将获取的file对象上传到服务器。 <van-uploader:after-read="uploadFile"/>uploadFile(file) {const data = new FormData();data.

git命令上传代码到gitHub、gitLab

1 、输入git账号和密码 git config --global user.name"git账号" git config --global user.name"密码" 2.添加要上传的SSH (如果你的文件已经有了SSH,删除本身有的)git remote rm origin 添加 git remote add origin SSH或http 3 添加本地的所有文件  git ad