当前位置: 首页 > news >正文

Hadoop 集群基础指令指南

目录

🧩 一、Hadoop 基础服务管理指令

▶️ 启动 Hadoop

⏹️ 关闭 Hadoop

🧾 查看进程是否正常运行

📁 二、HDFS 常用文件系统指令

🛠️ 三、MapReduce 作业运行指令

📋 四、集群状态监控指令

💡 五、管理员常用 HDFS 命令


包含 Hadoop 启动/关闭、HDFS 基本操作、MapReduce 提交流程等的常用指令大全,适合刚搭建好 Hadoop 环境后进行操作与测试。


🧩 一、Hadoop 基础服务管理指令

▶️ 启动 Hadoop

# 启动 HDFS 和 YARN 所有服务(推荐)
start-dfs.sh
start-yarn.sh# 或使用统一启动脚本(部分版本支持)
start-all.sh

⏹️ 关闭 Hadoop

# 停止 HDFS 和 YARN 所有服务
stop-dfs.sh
stop-yarn.sh# 或使用统一停止脚本
stop-all.sh

🧾 查看进程是否正常运行

jps
# 正常应看到:NameNode、DataNode、ResourceManager、NodeManager 等

📁 二、HDFS 常用文件系统指令

功能命令
查看根目录hadoop fs -ls /
创建目录hadoop fs -mkdir /user/yourname
上传文件hadoop fs -put test.txt /user/yourname/
下载文件hadoop fs -get /user/yourname/test.txt ./
删除文件hadoop fs -rm /user/yourname/test.txt
删除目录hadoop fs -rm -r /user/yourname/testdir
查看内容hadoop fs -cat /user/yourname/test.txt
查看空间使用hadoop fs -du -s /user/yourname/
拷贝文件hadoop fs -cp /src/file.txt /dst/file.txt
移动文件hadoop fs -mv /src/file.txt /dst/

🛠️ 三、MapReduce 作业运行指令

# 1. 编译 Java 程序并打包为 JAR(假设你写的是 WordCount.java)
javac -classpath `hadoop classpath` -d classes WordCount.java
jar -cvf wordcount.jar -C classes/ .# 2. 上传输入文件
hadoop fs -mkdir /input
hadoop fs -put input.txt /input/# 3. 提交 MapReduce 作业(以 WordCount 为例)
hadoop jar wordcount.jar WordCount /input /output# 4. 查看输出结果
hadoop fs -cat /output/part-r-00000

📋 四、集群状态监控指令

功能命令
查看作业列表yarn application -list
查看作业状态yarn application -status <app_id>
杀死作业yarn application -kill <app_id>
查看节点yarn node -list
查看集群资源yarn cluster --list

💡 五、管理员常用 HDFS 命令

# 查看 HDFS 使用状态
hdfs dfsadmin -report# 刷新节点信息(当编辑了 slaves 文件等)
hdfs dfsadmin -refreshNodes# 安全模式检查(启动时只读)
hdfs dfsadmin -safemode get

相关文章:

  • 某大麦某眼手机端-抢票
  • 制作一款打飞机游戏37:调度器预览
  • 63. Java 类和对象 - static 关键字
  • BBR 的 RTT 公平性问题求解
  • 高质量水火焰无损音效包
  • 如何安全的计算两个3D向量的夹角?
  • 从实列中学习linux shell6: 写一个 shell 脚本 过滤 恶意ip 攻击
  • 基于Docker Compose的Prometheus监控系统一键部署方案
  • Kafka的Topic分区数如何合理设置?
  • 【数据链路层】网络通信的“桥梁建设者”
  • ComputeShader绘制全屏纯色纹理
  • 【C到Java的深度跃迁:从指针到对象,从过程到生态】第五模块·生态征服篇 —— 第十八章 JVM调优:内存管理的权力游戏
  • 【25软考网工】第四章(4)无线局域网WLAN安全技术、无线个人网WPAN
  • 泰迪杯特等奖案例学习资料:基于多模态数据融合与边缘计算的工业设备健康监测与预测性维护系统
  • 搜索时如何排除一些垃圾站点,比如csdn.net
  • YPay标准版系统-五彩绚丽首页主题V1.0.0
  • pip使用本地缓存
  • 人格伤疤测试:发现内心深处的情感创伤
  • Best Video下载器——全能高清无水印视频下载工具
  • C++从入门到实战(十一)详细讲解C/C++语言中内存分布与C与C++内存管理对比
  • 中央宣传部、全国总工会联合发布2025年“最美职工”先进事迹
  • 国家能源局通报上月投诉情况:赤峰有群众反映电费异常增高,已退费
  • 上海市十六届人大常委会第二十一次会议表决通过有关人事任免事项
  • 陈文清:推进扫黑除恶常态化走深走实,有力回应人民群众对安居乐业的新期待
  • 海尔·2025青岛马拉松两选手被终身禁赛:违规转让号码、穿戴他人号码
  • 文化润疆|让新疆青少年成为“小小博物家”