首頁
編程語言
C語言|JAVA編程
Python編程
網頁編程
ASP編程|PHP編程
JSP編程
數據庫
MYSQL數據庫|SqlServer數據庫
Oracle數據庫|DB2數據庫
您现在的位置: 程式碼之家 >> 編程語言 >  >> 網頁程式設計 >> PHP 程式設計 >> PHP 綜合知識

Hadoop 常用命令完整速查:啟動關閉、HDFS 檔案操作、MapReduce 作業管理

     編輯:PHP 綜合知識

假設 Hadoop 安裝目錄 HADOOP_HOME=/home/admin/hadoop。以下為日常運維最常用的命令分類速查。

1. 叢集啟動與關閉

cd $HADOOP_HOME
# 啟動所有服務 (HDFS + YARN/MapReduce)
sh bin/start-all.sh
# 或分別啟動
sh bin/start-dfs.sh
sh bin/start-yarn.sh

# 關閉所有服務
sh bin/stop-all.sh
# 或分別關閉
sh bin/stop-yarn.sh
sh bin/stop-dfs.sh

2. HDFS 檔案系統操作 (支援通配符 *)

操作命令範例
列出目錄sh bin/hadoop fs -ls /user/admin/aaron
遞迴列出 (含子目錄)sh bin/hadoop fs -lsr /user/admin/aaron
建立目錄sh bin/hadoop fs -mkdir /user/admin/aaron/newDir
刪除檔案sh bin/hadoop fs -rm /user/admin/aaron/needDelete
刪除目錄 (含內容)sh bin/hadoop fs -rmr /user/admin/aaron
上傳檔案 (本地 → HDFS)sh bin/hadoop fs -put /home/admin/newFile /user/admin/aaron/
下載檔案 (HDFS → 本地)sh bin/hadoop fs -get /user/admin/aaron/newFile /home/admin/newFile
檢視檔案內容sh bin/hadoop fs -cat /user/admin/aaron/newFile

3. MapReduce 作業管理

# 提交作業 (所有 MR 作業皆為 JAR 包)
cd $HADOOP_HOME
sh bin/hadoop jar /home/admin/hadoop/job.jar com.example.MainClass [args...]

# 殺死執行中作業
sh bin/hadoop job -kill job_201005310937_0053

4. 更多命令查詢

sh bin/hadoop
# 輸出所有子命令說明:namenode, datanode, fsck, fs, balancer, jobtracker, tasktracker, job, queue, version, jar, distcp, archive, daemonlog 等

常用參數補充

  • -conf:指定設定檔目錄。
  • fs 子命令支援所有類檔案系統操作 (local, hdfs, s3 等)。
  • distcp:叢集間/叢集內大量資料高效複製。
  • archive:建立 Hadoop 歸檔 (HAR) 減少小檔案壓力。
  1. 上一篇文章:
  2. 下一篇文章:
Copyright © 程式碼之家 All Rights Reserved