HDFS之自定义上传、下载文件的大小

在之前的总结中，对文件的上传和下载都是默认的全部大小。

那么，如何做到上传文件时，只上传这个文件的一部分或只下载文件的某一部分？

官方实现的代码：

      InputStream in=null;
      OutputStream out = null;
      try {
        in = srcFS.open(src);
        out = dstFS.create(dst, overwrite);
        IOUtils.copyBytes(in, out, conf, true);
      } catch (IOException e) {
        IOUtils.closeStream(out);
        IOUtils.closeStream(in);
        throw e;
      } 

可以看到，变量in就是输入流，即要上传的文件；变量out就是输入流，先目标文件系统写入。
变量srcFS：目标文件所在路径，调用了open()方法便生成了输入流；变量dstFS：写入路径，调用create()方法便生成了输出流。然后使用copyBytes()方法即流拷贝，并最后传入参数true，表示方法结束后关闭输入输出流。但是使用流拷贝也是全部的下载上传，下面我参照官方的写法可以实现自定义大小上传和下载！

首先对一些变量名的解释：
fs：HDFS的文件系统
localFs：本地的文件系统

public class TestCustomUploadAndDownload {

   private FileSystem fs;
   private FileSystem localFs;
   private Configuration conf = new Configuration();

    @Before
    public void init() throws IOException, URISyntaxException {
        //创建一个客户端对象
         fs=FileSystem.get(new URI("hdfs://hadoop101:9000"),conf);
         localFs=FileSystem.get(new Configuration());
    }

    @After
    public void close() throws IOException {
        if (fs !=null) {
            fs.close();
        }
    }

    // 从本地文件系统上传文件到HDFS，只上传文件的前10M
    @Test
    public void testCustomUpload() throws Exception {

        //提供两个Path，和两个FileSystem
        Path src=new Path("e:/悲惨世界(英文版).txt");
        Path dest=new Path("/悲惨世界(英文版)10M.txt");

        // 使用本地文件系统中获取的输入流读取本地文件
        FSDataInputStream is = localFs.open(src);

        // 使用HDFS的分布式文件系统中获取的输出流，向dest路径写入数据
        FSDataOutputStream os = fs.create(dest, true);

        // 1k
        byte [] buffer=new byte[1024];

        // 流中数据的拷贝
        for (int i = 0; i < 1024 * 10; i++) {   
            is.read(buffer);
            os.write(buffer);
        }

        //关流
         IOUtils.closeStream(is);
         IOUtils.closeStream(os);
    }

}

文章永久链接：https://tech.souyunku.com/21775