【前后端】大文件切片上传

Ruoyi框架上传文件_若依微服务框架 文件上传-CSDN博客

原理介绍

大文件上传时,如果直接上传整个文件,可能会因为文件过大导致上传失败、服务器超时或内存溢出等问题。因此,通常采用文件切片(Chunking)的方式来解决这些问题。文件切片上传的原理是将大文件分割成多个小文件(即切片),然后逐个上传到服务器。服务器接收到所有切片后,再将这些切片合并成原始的大文件

前端(Vue2)
  1. 文件选择:用户选择需要上传的大文件。
  2. 文件切片:使用JavaScript的Blob.slice()File.slice()方法将文件分割成多个切片。
  3. 上传切片:通过AJAX(如使用XMLHttpRequestfetch API)或WebSocket等方式将切片逐个发送到服务器。
  4. 切片合并所有切片上传完成后,可以通知服务器进行切片合并,或者由前端发送合并请求。
后端(Spring Boot)
  1. 接收切片:创建接口接收前端发送的文件切片,并保存至临时目录或数据库。
  2. 切片合并:所有切片上传完成后,根据切片信息(如文件名、切片序号等)合并切片成原始文件。
  3. 处理结果:合并完成后,可以进行后续处理(如存储到文件系统、数据库等),并向前端返回处理结果。

示例代码

前端(Vue2)
<template>  
  <div>  
    <input type="file" @change="handleFileUpload" />  
  </div>  
</template>  
  
<script>  
export default {  
  methods: {  
    async handleFileUpload(event) {  
      const file = event.target.files[0];  
      const chunkSize = 1024 * 1024; // 切片大小,这里设置为1MB  
      const chunks = [];  
      let start = 0;  
  
      while (start < file.size) {  
        const end = Math.min(file.size, start + chunkSize);  
        chunks.push(file.slice(start, end));  
        start = end;  
      }  
  
      for (let i = 0; i < chunks.length; i++) {  
        await this.uploadChunk(chunks[i], i, file.name);  
      }  
  
      // 所有切片上传完成后,可以发送合并请求  
      console.log('所有切片上传完成');  
    },  
    async uploadChunk(chunk, index, fileName) {  
      const formData = new FormData();  
      formData.append('file', chunk);  
      formData.append('index', index);  
      formData.append('fileName', fileName);  
  
      try {  
        const response = await fetch('/upload/chunk', {  
          method: 'POST',  
          body: formData,  
        });  
        if (!response.ok) {  
          throw new Error('Chunk upload failed');  
        }  
      } catch (error) {  
        console.error('Error uploading chunk:', error);  
      }  
    },  
  },  
};  
</script>
后端(Spring Boot)

后端处理大文件切片上传时,需要细致地设计接口、处理文件存储以及确保数据的完整性和一致性。以下是对后端(使用Spring Boot)处理大文件切片上传的详细解析:

1. 接口设计

你需要定义几个关键的接口来处理文件的上传、切片的保存以及切片的合并。

  • 上传切片接口:用于接收单个文件切片。
  • 检查上传状态接口(可选):用于前端查询切片上传的进度或状态。
  • 合并切片接口:在所有切片上传完成后,用于合并切片成完整文件。
2. 文件存储

你可以选择将切片保存在服务器的文件系统中,或者存储在数据库中(如使用BLOB字段)。文件系统通常更适合处理大文件,因为数据库可能会受到其存储能力和事务日志的限制。

  • 文件系统:为每个文件创建一个临时目录,将切片保存为该目录下的文件,文件名可以包含切片索引。
  • 数据库:如果选择数据库,确保数据库能够处理大BLOB字段,并考虑性能和事务管理。
3. 切片管理

为了合并切片,后端需要跟踪哪些切片已经被上传。这可以通过多种方式实现,如:

  • 数据库记录:为每个切片在数据库中创建一个记录,包括文件ID、切片索引、切片状态(已上传/未上传/错误)等。
  • 文件系统标记:在文件系统中,使用特定命名约定或额外的元数据文件来跟踪切片状态。
4. 切片合并

当所有切片都上传完毕后,后端需要触发切片合并逻辑。这可以通过多种方式触发,如:

  • 轮询:前端定期向服务器发送请求,询问是否可以开始合并。
  • 事件通知:后端在最后一个切片上传后,通过WebSocket、轮询或其他机制通知前端开始合并。
  • 后台任务:在服务器端设置一个后台任务,定期检查切片状态,一旦所有切片都上传完毕,就自动开始合并。

合并切片时,后端需要按照正确的顺序读取切片,并将它们合并成一个完整的文件。这通常涉及到读取每个切片的内容,并将它们按顺序写入到新的文件中。

5. 错误处理和重试机制

上传过程中可能会出现各种错误,如网络中断、服务器故障等。后端需要能够处理这些错误,并提供重试机制。

  • 错误记录:将错误信息记录在数据库中,以便进行故障排查和重试。
  • 自动重试:在某些情况下,后端可以自动重试失败的切片上传。
  • 前端重试:前端在接收到错误响应时,可以提示用户重试或自动重试。

6. 安全性

上传大文件时,安全性也是一个重要考虑因素。确保你的后端能够:

  • 验证用户权限:确保只有授权用户才能上传文件。
  • 检查文件类型:防止上传恶意文件(如病毒、木马等)。
  • 限制文件大小:避免因为单个文件过大而耗尽服务器资源。

7. 示例代码(简化)

以下是一个简化的Spring Boot后端示例,用于处理切片上传的接收:

@RestController  
@RequestMapping("/upload")  
public class FileUploadController {  
  
    // 假设有一个服务来管理文件切片  
    private final FileChunkService fileChunkService;  
  
    @Autowired  
    public FileUploadController(FileChunkService fileChunkService) {  
        this.fileChunkService = fileChunkService;  
    }  
  
    @PostMapping("/chunk")  
    public ResponseEntity<?> uploadChunk(@RequestParam("file") MultipartFile file,  
                                         @RequestParam("index") int index,  
                                         @RequestParam("fileName") String fileName) {  
        try {  
            // 保存切片到文件系统或数据库  
            fileChunkService.saveChunk(file, index, fileName);  
            return ResponseEntity.ok("Chunk uploaded successfully");  
        } catch (Exception e) {  
            return ResponseEntity.status(HttpStatus.INTERNAL_SERVER_ERROR).body("Error uploading chunk");  
        }  
    }  
  
    // 还需要实现合并切片的接口和相应的服务逻辑  
    // ...  
}  
  
// FileChunkService 接口和服务实现会处理切片的保存和合并逻辑  
// ...

请注意,上述代码是一个非常简化的示例,它只展示了如何接收切片并尝试保存它。在实际应用中,你需要添加更多的逻辑来处理切片的状态跟踪、合并、错误处理以及安全性等问题。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mfbz.cn/a/877640.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

Python 全栈系列271 微服务踩坑记

说明 这个坑花了10个小时才爬出来 碰到一个现象&#xff1a;将微服务改造为并发后&#xff0c;请求最初很快&#xff0c;然后就出现大量的失败&#xff0c;然后过一会又能用。 过去从来没有碰到这个问题&#xff0c;要么是一些比较明显的资源&#xff0c;或者逻辑bug&#xff0…

使用Python生成多种不同类型的Excel图表

目录 一、使用工具 二、生成Excel图表的基本步骤 三、使用Python创建Excel图表 柱形图饼图折线图条形图散点图面积图组合图瀑布图树形图箱线图旭日图漏斗图直方图不使用工作表数据生成图表 四、总结 Excel图表是数据可视化的重要工具&#xff0c;它通过直观的方式将数字信…

CesiumJS+SuperMap3D.js混用实现可视域分析 S3M图层加载 裁剪区域绘制

版本简介&#xff1a; cesium&#xff1a;1.99&#xff1b;Supermap3D&#xff1a;SuperMap iClient JavaScript 11i(2023)&#xff1b; 官方下载文档链家&#xff1a;SuperMap技术资源中心|为您提供全面的在线技术服务 示例参考&#xff1a;support.supermap.com.cn:8090/w…

嵌入式鸿蒙系统开发语言与开发方法分析

大家好,今天主要给大家分享一下,HarmonyOS系统的主力开发语言ArkTS语言开发方法,它是基于TypeScript(简称TS)语言扩展而来。 第一:ArkTS语言基本特性 目的:声明式UI,让开发者以更简洁,更自然的方式开发高性能应用。 声明式 UI基本特性: 基本UI描述:ArkTS定义了各种装饰…

Docker-compose:管理多个容器

Docker-Compose 是 Docker 公司推出的一个开源工具软件&#xff0c;可以管理多个 Docker 容器组成一个应用。用户需要定义一个 YAML 格式的配置文件 docker-compose.yml&#xff0c;写好多个容器之间的调用关系。然后&#xff0c;只要一个命令&#xff0c;就能同时启动/关闭这些…

Jenkins部署若依项目

一、配置环境 机器 jenkins机器 用途&#xff1a;自动化部署前端后端&#xff0c;前后端自动化构建需要配置发送SSH的秘钥和公钥&#xff0c;同时jenkins要有nodejs工具来进行前端打包&#xff0c;maven工具进行后端的打包。 gitlab机器 用途&#xff1a;远程代码仓库拉取和…

HTML5超酷炫的水果蔬菜在线商城网站源码系列模板1

文章目录 1.设计来源1.1 主界面1.2 商品列表界面1.3 商品详情界面1.4 其他界面 2.效果和源码2.1 动态效果2.2 源代码 源码下载 作者&#xff1a;xcLeigh 文章地址&#xff1a;https://blog.csdn.net/weixin_43151418/article/details/142059238 HTML5超酷炫的水果蔬菜在线商城网…

动手学习RAG: moka-ai/m3e 模型微调deepspeed与对比学习

动手学习RAG: 向量模型动手学习RAG: moka-ai/m3e 模型微调deepspeed与对比学习动手学习RAG&#xff1a;迟交互模型colbert微调实践 bge-m3 1. 环境准备 pip install transformers pip install open-retrievals注意安装时是pip install open-retrievals&#xff0c;但调用时只…

【Mac】系统环境配置

常用工具 Navicat PJ版本&#xff1a;this Host切换器 SwitchHosts termius 一款好用的Linux服务器连接工具&#xff1a; termius 小飞机 dddd&#xff1a;&#x1fa9c; Git mac安装git有好多种方式&#xff0c;自带的xcode或者通过Homebrew来安装&#xff0c;本文的…

人工智能开发实战matplotlib库应用基础

内容导读 matplotlib简介绘制直方图绘制撒点图 一、matplotlib简介 matplotlib是一个Python 2D绘图库&#xff0c;它以多种硬拷贝格式和跨平台的交互式环境生成高质量的图形。 matplotlib 尝试使容易的事情变得更容易&#xff0c;使困难的事情变得可能。 我们只需几行代码…

Qt ORM模块使用说明

附源码&#xff1a;QxOrm是一个C库资源-CSDN文库 使用说明 把QyOrm文件夹拷贝到自己的工程项目下, 在自己项目里的Pro文件里添加include($$PWD/QyOrm/QyOrm.pri)就能使用了 示例test_qyorm.h写了表的定义,Test_QyOrm_Main.cpp中写了所有支持的功能的例子: 通过自动表单添加…

C++ ——string的模拟实现

目录 前言 浅记 1. reserve&#xff08;扩容&#xff09; 2. push_back&#xff08;尾插&#xff09; 3. iterator&#xff08;迭代器&#xff09; 4. append&#xff08;尾插一个字符串&#xff09; 5. insert 5.1 按pos位插入一个字符 5.2 按pos位插入一个字符串 …

CleanClip for Mac 剪切板 粘贴工具 历史记录 安装(保姆级教程,新手小白轻松上手)

CleanClip&#xff1a;革新macOS剪贴板管理体验 目录 功能概览 多格式历史记录保存智能搜索功能快速复制操作拖拽功能 安装指南 前期准备安装步骤 配置与使用 功能概览 多格式历史记录保存 CleanClip支持保存文本、图片、文件等多种格式的复制历史记录&#xff0c;为用户提…

C语言 | Leetcode C语言接雨水II

题目&#xff1a; 题解&#xff1a; typedef struct{int row;int column;int height; } Element;struct Pri_Queue; typedef struct Pri_Queue *P_Pri_Queue; typedef Element Datatype;struct Pri_Queue{int n;Datatype *pri_qu; };/*优先队列插入*/ P_Pri_Queue add_pri_que…

通信工程学习:什么是SNI业务节点接口

SNI&#xff1a;业务节点接口 SNI业务节点接口&#xff0c;全称Service Node Interface&#xff0c;是接入网&#xff08;AN&#xff09;和一个业务节点&#xff08;SN&#xff09;之间的接口&#xff0c;位于接入网的业务侧。这一接口在通信网络中扮演着重要的角色&#xff0c…

几种手段mfc140u.dll丢失的解决方法,了解mfc140u.dll

在使用Windows操作系统时&#xff0c;许多用户可能会遇到“找不到mfc140u.dll”或“mfc140u.dll未找到”的错误提示。这个错误通常是由于该文件丢失或损坏所致。本文将详细介绍mfc140u.dll文件的作用、丢失的原因及其解决方法&#xff0c;帮助您快速恢复系统的正常运行。 一、m…

2024年华为9月4日秋招笔试真题题解

2024年华为0904秋招笔试真题 二叉树消消乐好友推荐系统维修工力扣上类似的题--K站中转内最便宜的航班 二叉树消消乐 题目描述 给定原始二叉树和参照二叉树(输入的二叉树均为满二叉树&#xff0c;二叉树节点的值范围为[1,1000]&#xff0c;二叉树的深度不超过1000)&#xff0c…

Maven 解析:打造高效、可靠的软件工程

Apache Maven【简称maven】 是一个用于 Java 项目的构建自动化工具&#xff0c; 通过提供一组规则来管理项目的构建、依赖关系和文档。 1.Pre-预备知识&#xff1a; 1.1.Maven是什么&#xff1f; [by Maven是什么&#xff1f;有什么作用&#xff1f;Maven的核心内容简述_ma…

简化登录流程,助力应用建立用户体系

随着智能手机和移动应用的普及&#xff0c;用户需要在不同的应用中注册和登录账号&#xff0c;传统的账号注册和登录流程需要用户输入用户名和密码&#xff0c;这不仅繁琐而且容易造成用户流失。 华为账号服务(Account Kit)提供简单、快速、安全的登录功能&#xff0c;让用户快…

Zabbix自定义监控项与触发器

当我们需要获取某台主机上的数据时&#xff0c;直接利用 zabbix 提供的模板可以很方便的获得需要的数据,但是有些特别的数据&#xff0c;利用这些现有的模板或监控项是无法实现的&#xff0c;例如网站状态信息的监控、mysql数据库主从状态等信息。这是就需要自己定义键值和监控…