admin 管理员组

文章数量: 887021

断点续传

目录

一,前言

二,断点续传

三,断点续传流程:

四,java代码测试分块和合并

视频文件分块: 

视频文件合并:

五,应用(简单了解)


一,前言

通常视频文件都比较大,项目中需要满足大文件的上传要求,http协议本身对上传文件大小没有限制,但是客户的网络质量,电脑硬件环境等参差不齐,如果一个大的文件上传过程中网断了没有上传完成,用户体验就会很差。所以对于大文件上传的要求最基本的就是断点续传。

二,断点续传

FTP(文件传输协议的简称)(File Transfer Protocol、 FTP)客户端软件断点续传指的是在下载或上传时,将下载或上传任务(一个文件或一个压缩包)人为的划分为几个部分,每一个部分采用一个线程进行上传或下载,如果碰到网络故障,可以从已经上传或下载的部分开始继续上传下载未完成的部分,而没有必要从头开始上传下载。用户可以节省时间,提高速度。

可以从中提炼出来两个点:

1.将下载上传任务人为的划分成几个部分,从大文件切割成小文件

2.如果出现故障,可以接着上次已经上传的部分继续上传,不用从头再来浪费时间

三,断点续传流程:

在项目里,文件分块是前端来完成的,后端接受分块并且将之按照顺序(重点)合并在一起。

如果上传发生了中断,那么会重新上传,后端会检查当前这一块是否已经上传过了,如果已经上传过了,就不会再上传。

四,java代码测试分块和合并

视频文件分块: 

1.创建一个名为bigfile_test的文件夹,里面放上一个视频文件和等会分块放的文件夹chunk。(我的大概是30M)

2.分块流程:

1)根据指定的分块大小计算出分块数量

2)使用RandomAccessFile类来从源文件中读数据写到分块文件中,如果分块文件的长度达到了分块大小,写下一个分块

3)测试

3.编写分块代码:

    @Testpublic void testChunk() throws IOException {//源文件路径File sourcefile = new File("D:\\bigfile_test\\森林光影_丁达尔效应.mp4");//分块文件存放的路径File chunkpath = new File("D:\\bigfile_test\\chunk\\");if (!chunkpath.exists()) {chunkpath.mkdirs();}//指定分块的大小 1M = 1024k 1k=1024字节int chunkSize = 1024 * 1024 * 1;//分块总数int chunkNums = (int) Math.ceil(1.0 * sourcefile.length() / chunkSize);//流对象读取源文件 向分块文件写数据  当达到了分块大小  不再写byte[] data = new byte[1024];RandomAccessFile raf_read = new RandomAccessFile(sourcefile, "r");for (int i = 0; i < chunkNums; i++) {//创建空白文件File file = new File(chunkpath.getPath() + "\\" + i);boolean isok = file.createNewFile();//文件存在会创建失败RandomAccessFile raf_write = new RandomAccessFile(file, "rw");if (isok) {//向文件中写内容int len = -1;while ((len = raf_read.read(data)) != -1) {raf_write.write(data, 0, len);if (file.length() >= chunkSize) {//达到分块大小就不再写了break;}}}raf_write.close();}raf_read.close();}

4.打开chunk文件夹,可以看到分块,只有最后一块的大小不是1024KB,其他都是。

这个视频文件是30M,所以分成了31块。

视频文件合并:

接下来需要将上面的分块合并起来,检查是否能成功合成源文件。

1.合并流程:

1) 将chunk文件按照次序放到集合中(排序)

2)使用RandomAccessFile类将chunk文件数据依次写到merge文件中

3)检查是否合并成功

注意: 写的次序一定要按照分块号的次序

2.编写合并代码

    @Testpublic void testMerge() throws IOException {//源文件File sourceFile = new File("D:\\bigfile_test\\森林光影_丁达尔效应.mp4");//用于校验合并之后的视频文件是否正确if (!sourceFile.exists()) sourceFile.createNewFile();//分块文件目录File chunkpath = new File("D:\\bigfile_test\\chunk\\");if (!chunkpath.exists()) chunkpath.mkdirs();//合并之后的文件File mergeFile = new File("D:\\bigfile_test\\分块合并_森林光影_丁达尔效应.mp4");if (mergeFile.exists()) mergeFile.delete();//目录下所有的分块文件File[] chunkFiles = chunkpath.listFiles();List<File> chunkFileList = Arrays.asList(chunkFiles);//必须按照序号的顺序进行合并Collections.sort(chunkFileList, new Comparator<File>() {@Overridepublic int compare(File o1, File o2) {return Integer.parseInt(o1.getName()) - Integer.parseInt(o2.getName());}});byte[] data = new byte[1024];RandomAccessFile raf_write = new RandomAccessFile(mergeFile, "rw");//如果文件不存在会创建文件for (File chunkFile : chunkFiles) {RandomAccessFile raf_read = new RandomAccessFile(chunkFile, "r");int len = -1;while ((len = raf_read.read(data)) != -1) {raf_write.write(data, 0, len);}}//检验是否合并正确FileInputStream sis = new FileInputStream(sourceFile);FileInputStream mis = new FileInputStream(mergeFile);String sMd5Hex = DigestUtils.md5DigestAsHex(sis);String mMd5Hex = DigestUtils.md5DigestAsHex(mis);if (sMd5Hex.equals(mMd5Hex)) {System.out.println("视频文件合并成功");} else {System.out.println("视频文件合并失败");}}

3.查看合并成功的文件

五,应用(简单了解)

有时用户上传下载文件需要历时数小时,万一线路中断,不具备断点续传的FTP服务器或下载软件就只能从头重传,比较好的FTP服务器或下载软件具有FTP断点续传能力,允许用户从上传下载断线的地方继续传送,这样大大减少了用户的烦恼。

IE浏览器默认下载方式不支持断点续传。

常见的支持断点续传的上传、下载软件:QQ旋风、迅雷、快车(迷你快车)、web迅雷、影音传送带、快车、BitComet、电驴eMule、哇嘎Vagaa、RF[RaySourse/RayFile]、酷6、土豆、优酷、百度视频、新浪视频、腾讯视频、百度云等都支持断点续传。

在 *nix(Linux/Unix)系统下,常用支持断点续传的FTP客户端软件是lftp。

本文标签: 断点续传