亚洲免费在线-亚洲免费在线播放-亚洲免费在线观看-亚洲免费在线观看视频-亚洲免费在线看-亚洲免费在线视频

Hadoop 集群 傻瓜式搭建手記

系統 3060 0

關于Hadoop的配置,按照我的理解,應該有六個文件需要修改,它們都在Hadoop的conf文件夾下,分別是

masters/slavers:配置masters和slavers的機器IP

hadoop-env.sh :Hadoop 運行時的環境變量,比如JAVA_HOME,LOG之類的

core-site.xml :Hadoop 的核心配置文件,對應并覆蓋core-default.xml 中的配置項

hdfs-site.xml :HDFS 的配置文件,對應并覆蓋hdfs-default.xml 中的配置項

mapred-site.xml : Map/Reduce的配置文件,對應并覆蓋mapred-default.xml 中的配置項

上面提到的三個*-default.xml 是Hadoop的默認配置項,理論上都是只讀的,如果要修改,就通過對應的用戶配置文件來覆蓋其設置。

?

1、先配置masters/slavers,NameNode和JobTracker是master, DataNode01和DataNode02是salvers

Masters:

?

  1. vi?/hadoop/conf/masters??
masters文件內容如下:

?

?

  1. 192.168.100.101??
  2. 192.168.100.102??

?

Slavers:

  1. vi?/hadoop/conf/slavers??
slavers文件內容如下:

?

?

  1. 192.168.100.103??
  2. 192.168.100.104??


?

2、先配置hadoop-env.sh,這里最重要的是配置JAVA_HOME,在我的機器上是這樣的:

?

  1. export?JAVA_HOME=/usr/lib/jvm/java-6-sun??

其余的可以考慮配置日志文件路徑:

?

?

  1. export?HADOOP_LOG_DIR=${HADOOP_HOME}/logs??

3、配置 core-site.xml ,通過文檔可以知道這里一般是配置NameNode的地址,即機器名或IP:

?

  1. < configuration > ????
  2. ???????? < property > ??
  3. ???????????????? < name > fs.default.name </ name > ?????
  4. ???????????????? < value > hdfs://192.168.100.101:9000 </ value > ?????
  5. ???????? </ property > ???
  6. </ configuration > ???

4、配置 hdfs-site.xml ,這里一般配置文件存放路徑以及文件權限:

?

?

  1. < configuration > ????
  2. ???? < property > ????
  3. ???????? <!--?DFS中存儲文件命名空間信息的目錄?--> ????
  4. ???????? < name > dfs.name.dir </ name > ????
  5. ???????? < value > /hadoop/dfs/name </ value > ????
  6. ???? </ property > ????
  7. ???? < property > ????
  8. ???????? <!--?DFS中存儲文件數據的目錄?--> ????
  9. ???????? < name > dfs.data.dir </ name > ?????
  10. ???????? < value > /hadoop/dfs/data </ value > ????
  11. ???? </ property > ????
  12. ???? < property > ????
  13. ???????? <!--?是否對DFS中的文件進行權限控制(測試中一般用false)--> ????
  14. ???????? < name > dfs.permissions </ name > ????
  15. ???????? < value > false </ value > ????
  16. ??? </ property > ????
  17. </ configuration > ???


5、配置 mapred-site.xml , 這里配置的東西有很多,都是跟Map-Reduce相關的,不過暫時先配置如下幾項:

?

  1. < configuration > ??
  2. ???? < property > ????
  3. ???????? <!--?JobTracker節點?--> ????
  4. ???????? < name > mapred.job.tracker </ name > ????
  5. ???????? < value > hdfs://192.168.100.102:9001 </ value > ????
  6. ???? </ property > ????
  7. ???? < property > ????
  8. ???????? <!--?map/reduce的系統目錄(使用的HDFS的路徑)?--> ????
  9. ???????? < name > mapred.system.dir </ name > ????
  10. ???????? < value > /hadoop/mapred/system </ value > ????
  11. ???? </ property > ????
  12. ???? < property > ????
  13. ???????? <!--?map/reduce的臨時目錄(可使用“,”隔開,設置多重路徑來分攤磁盤IO)?--> ????
  14. ???????? < name > mapred.local.dir </ name > ????
  15. ???????? < value > /hadoop/mapred/local </ value > ????
  16. ???? </ property > ????
  17. </ configuration > ???

?

?

這些配置都可以在一臺機器上搞定,由于Hadoop所有機器是使用同樣的配置,所以可以通過scp命令將conf下的內容拷貝復制到各個機器上:

?

  1. scp?-rp?/hadoop/conf?fox@192.168.100.102/hadoop/??

只復制conf是由于我拷貝虛擬機時就已經把JAVA,Hadoop 都安裝好后才拷貝的,這樣可以保證所有文件在同一目錄。

?

?

啟動

然后,激動人心的時刻到了,所有配置都搞定了,我們可以啟動了!

不過還有一件事情必須要先做, 格式化名稱空間。

在NameNode上,執行如下命令:

?

  1. cd?/hadoop/bin??
  2. ./hadoop?namenode?-format??
執行后結果如下:

?

Hadoop 集群 傻瓜式搭建手記

?

然后就可以執行最后一個命令了:

?

  1. ./start-all.sh??

如果一切順利的話,應該就成功了:

?

Hadoop 集群 傻瓜式搭建手記

?

如果要關閉的話,可以執行

?

  1. ./stop-all.sh??


ref:http://blog.csdn.net/lee_leefox/article/details/7071692

Hadoop 集群 傻瓜式搭建手記


更多文章、技術交流、商務合作、聯系博主

微信掃碼或搜索:z360901061

微信掃一掃加我為好友

QQ號聯系: 360901061

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點擊下面給點支持吧,站長非常感激您!手機微信長按不能支付解決辦法:請將微信支付二維碼保存到相冊,切換到微信,然后點擊微信右上角掃一掃功能,選擇支付二維碼完成支付。

【本文對您有幫助就好】

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描上面二維碼支持博主2元、5元、10元、自定義金額等您想捐的金額吧,站長會非常 感謝您的哦!!!

發表我的評論
最新評論 總共0條評論
主站蜘蛛池模板: 免费特黄一级欧美大片 | 最新国产在线视频 | 五月天激情亚洲婷婷在线 | 亚洲精品国产啊女成拍色拍 | 天堂精品在线 | 三级大黄 | 日韩最新视频一区二区三 | 亚洲久久在线观看 | 老司机福利在线播放 | 91久久国产精品视频 | 欧美日韩亚洲综合久久久 | 97影院理论片手机在线观看 | 奇米第四777| 波多野结衣免费一区二区三区香蕉 | 自拍中文字幕 | 奇米777狠狠 | 四虎国产欧美成人影院 | 亚洲香蕉久久一区二区 | 伊人成综合 | 国产精品免费久久久免费 | 免费一级毛片免费播放 | 野外一级毛片黑人 | 久久麻豆亚洲精品 | 99资源| 欧美jizz40性欧美 | 亚洲综色| 久久国产精品夜色 | 久久99精品国产99久久 | 一级毛片人与动免费观看 | 国产区一区 | 青青青爽国产在线视频 | 在线观看 日韩 | 成人毛片免费 | 蜜桃综合网 | 黄黄视频免费看 | 欧美老妇免费做爰视频 | 国产探花在线观看 | 全黄一级裸片视频在线观看 | 亚洲欧美日产综合一区二区三区 | 久久毛片视频 | 国产乱码精品一区二区 |