湖北住房城乡建设厅网站大型网站建设技巧

HDFS是什么：HDFS是一个分布式的文件系统，是个网盘，HDFS是一种适合大文件存储的分布式文件系统

HDFS的Shell操作

1、查看hdfs根目录下的内容 - ls

hdfs dfs -ls hdfs://hadoop01:9000/

url 在 使 用 时 默 认 是 可 以 省 略 的 ， 因 为 hdfs 在 执 行 的 时 候 会 根 据HDOOP_HOME自动识别配置文件中的fs.defaultFS属性

可以写成：hdfs dfs -ls /

还有一版旧版写法

hadoop fs -ls /

想要递归显示所有目录的信息，可以在ls后面添加-R参数 

[root@bigdata01 hadoop-3.2.0]# hdfs dfs -ls -R / 

2、从本地上传文件 - put

[root@bigdata01 hadoop-3.2.0]# hdfs dfs -put README.txt /

3、查看HDFS文件内容 - cat

[root@bigdata01 hadoop-3.2.0]# hdfs dfs -cat /README.txt

 4、下载文件到本地 - get

// 防止当前目录中已经有这个文件了，要么换到其它目录，要么给文件重命名

[root@bigdata01 hadoop-3.2.0]# hdfs dfs -get /README.txt README.txt.bak

5、[创建文件夹 - mkdir

[root@bigdata01 hadoop-3.2.0]# hdfs dfs -mkdir /test

// 如果要递归创建多级目录，还需要再指定-p参数

[root@bigdata01 hadoop-3.2.0]# hdfs dfs -mkdir -p /abc/xyz

6、 删除文件/文件夹  - rm

[root@bigdata01 hadoop-3.2.0]# hdfs dfs -rm /README.txt

// 删除目录需要指定-r参数

[root@bigdata01 hadoop-3.2.0]# hdfs dfs -rm -r /test

7、统计根目录下文件的个数

[root@bigdata01 hadoop-3.2.0]# hdfs dfs -ls / |grep /| wc -l  

 8、hdfs dfs 可以配置简写

// 临时配置

alias hls="hdfs dfs -ls"

// 永久配置

nano ~/.bashrc

alias hls="hdfs dfs -ls"

source ~/.bashrc

// 验证

hls /

9、Java 操作 HDFS

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;
import java.io.FileInputStream;
import java.io.IOException;
import java.net.URI;
/*** Java代码操作HDFS* 文件操作：上传文件、下载文件、删除文件 * Created by xuwei */
public class HdfsOp { public static void main(String[] args) throws Exception{//创建一个配置对象Configuration conf = new Configuration();//指定HDFS的地址conf.set("fs.defaultFS","hdfs://bigdata01:9000");//获取操作HDFS的对象FileSystem fileSystem = FileSystem.get(conf); put(fileSystem);}/*** 文件上传* @param fileSystem* @throws IOException*/private static void put(FileSystem fileSystem) throws IOException {//获取HDFS文件系统的输出流FSDataOutputStream fos = fileSystem.create(new Path("/user.txt"));//获取本地文件的输入流FileInputStream fis = new FileInputStream("D:\\user.txt");//上传文件：通过工具类把输入流拷贝到输出流里面，实现本地文件上传到HDFS IOUtils.copyBytes(fis,fos,1024,true); }
}/*** 下载文件* @param fileSystem* @throws IOException*/
private static void get(FileSystem fileSystem) throws IOException{//获取HDFS文件系统的输入流FSDataInputStream fis = fileSystem.open(new Path("/README.txt"));//获取本地文件的输出流FileOutputStream fos = new FileOutputStream("D:\\README.txt");//下载文件IOUtils.copyBytes(fis,fos,1024,true);
}/*** 删除文件* @param fileSystem* @throws IOException*/
private static void delete(FileSystem fileSystem) throws IOException{//删除文件，目录也可以删除//如果要递归删除目录，则第二个参数需要设置为true //如果是删除文件或者空目录，第二个参数会被忽略boolean flag = fileSystem.delete(new Path("/LICENSE.txt"),true); 
if(flag){System.out.println("删除成功！"); 
}else{System.out.println("删除失败！"); }
}