首頁
編程語言
C語言|JAVA編程
Python編程
網頁編程
ASP編程|PHP編程
JSP編程
數據庫
MYSQL數據庫|SqlServer數據庫
Oracle數據庫|DB2數據庫
您现在的位置: 程式碼之家 >> 編程語言 >  >> Java 程式設計 >> Java 程式設計入門

Hadoop 單機模式安裝配置全攻略:從環境變量到 WordCount 實戰驗證

     編輯:Java 程式設計入門

單機模式適用場景

單機模式(Standalone / Pseudo-Distributed)主要用於開發調試、邏輯驗證,所有守護進程(NameNode、DataNode、JobTracker、TaskTracker、SecondaryNameNode)運行在同一 JVM 或同一台機器上,配置較分布式模式簡化。

核心配置差異

與分布式安裝相比,僅需調整兩處:

  1. slaves 文件:將主機名寫入(如 hadoop11),指明本機為唯一 DataNode。
  2. 副本數:若 hdfs-site.xml 中 dfs.replication > 1,必須改為 1,否則寫入失敗。

關鍵配置片段

<!-- hdfs-site.xml -->
<property>
  <name>dfs.replication</name>
  <value>1</value>
</property>

<!-- slaves -->
hadoop11

啟動與驗證

$ start-all.sh
$ jps
15556 Jps
15111 JobTracker
15258 TaskTracker
15014 SecondaryNameNode
14861 DataNode
14712 NameNode

所有進程正常啟動即表示環境就緒。

WordCount 端到端測試

$ echo "word1 word2 word2 word3 word3 word3" > words
$ hadoop dfsadmin -safemode leave
$ hadoop fs -copyFromLocal words /single/input/words
$ hadoop fs -cat /single/input/words
word1 word2 word2 word3 word3 word3

$ hadoop jar hadoop-0.21.0/hadoop-mapred-examples-0.21.0.jar wordcount /single/input /single/output

$ hadoop fs -cat /single/output/part-r-00000
word1	1
word2	2
word3	3

常見坑點提示

  • SSH 免密登入:即使是本機,也需配置 ssh localhost 無密碼登入;
  • 環境變量:JAVA_HOME、HADOOP_HOME、PATH 需正確設置;
  • 防火牆/安全組:本機回環通常不受影響,但雲主機需放行 9000、50070 等端口;
  • 版本匹配:Hadoop、JDK、Protobuf 版本需兼容,建議參考官方支持矩陣。

進階:快速切換至分布式

單機配置與分布式核心文件(core-site.xml、hdfs-site.xml、mapred-site.xml、masters)完全一致,僅需修改 slaves 列出所有 DataNode 主機名,並將 dfs.replication 設為合理值(通常 3),即可平滑遷移至叢集模式。

  1. 上一篇文章:
  2. 下一篇文章:
Copyright © 程式碼之家 All Rights Reserved