如何知道目前Hadoop 在執行什麼, 如何重啟 - Linux

Mia avatar
By Mia
at 2017-04-13T11:20

Table of Contents

※ [本文轉錄自 Soft_Job 看板 #1OxkhDDu ]

作者: Gonocurrus (高那古勒斯) 看板: Soft_Job
標題: [請益] 如何知道Hadoop 在執行什麼
時間: Thu Apr 13 11:04:43 2017

大家好

小弟剛進到一家陸資公司
使用Hadoop還做遊戲的數據分析, 使用的版本是2013年的版本 0.20.2版
那邊同事已經走了幾輪了, 所以沒有交接 (據說上海習慣跳槽來加薪, 每次30%)
所以基本上Server屬於沒有維護的狀態

在Amazon有三台Hadoop Server一台做NameNode兩台做DataNode
目前想要把關掉兩個DataNode全部都給Master那台做
理論上應該是修改config的slaves加上Master這台
不過不知道怎麼關掉再重啟 >''<

現在有Server權限,不過我要怎麼知道目前在運行什麼呢?
使用history已經看不到當初執行過什麼
Server上也沒有運行apache, 可以看歷史
不知道小弟要從何著手>''<

使用jps看
$ jps
6130 RunJar
5314 JobTracker
4580 SecondaryNameNode
5493 QuorumPeerMain
5635 HMaster
4321 NameNode
879 Jps

使用ps 去看執行參數也看不出所以然

使用下面指令看, QQ 怎麼會沒有job在運行
$ hadoop job -list
0 jobs currently running

從$HADOOP_HOME 目錄看起來logs還是有在update >''<
$ls -lt
hadoop hadoop 4096 Apr 13 02:59 conf
hadoop hadoop 274432 Apr 13 00:56 logs
hadoop hadoop 4096 Apr 10 04:51 ivy
hadoop hadoop 4096 Apr 5 02:41 bin
hadoop hadoop 4096 Jul 24 2013 pids
hadoop hadoop 4096 Jul 24 2013 lib
hadoop hadoop 21107 Jul 9 2013 zookeeper.out
hadoop hadoop 4096 Jun 27 2013 src
hadoop hadoop 4096 Jun 27 2013 docs
hadoop hadoop 4096 Jun 27 2013 cloudera
hadoop hadoop 100359 Mar 20 2013 build.xml
hadoop hadoop 4096 Mar 20 2013 c++
hadoop hadoop 348776 Mar 20 2013 CHANGES.txt
hadoop hadoop 7456 Mar 20 2013 cloudera-pom.xml
hadoop hadoop 4096 Mar 20 2013 contrib
hadoop hadoop 4096 Mar 20 2013 example-confs
hadoop hadoop 6842 Mar 20 2013 hadoop-ant-0.20.2-cdh3u6.jar
hadoop hadoop 3871691 Mar 20 2013 hadoop-core-0.20.2-cdh3u6.jar
hadoop hadoop 142821 Mar 20 2013 hadoop-examples-0.20.2-cdh3u6.jar
hadoop hadoop 2799061 Mar 20 2013 hadoop-test-0.20.2-cdh3u6.jar
hadoop hadoop 175835 Mar 20 2013 hadoop-tools-0.20.2-cdh3u6.jar
hadoop hadoop 10440 Mar 20 2013 ivy.xml
hadoop hadoop 13366 Mar 20 2013 LICENSE.txt
hadoop hadoop 101 Mar 20 2013 NOTICE.txt
hadoop hadoop 1366 Mar 20 2013 README.txt
hadoop hadoop 4096 Mar 20 2013 webapps
hadoop hadoop 4096 Mar 20 2013 sbin


請問有沒有前輩可以稍微指導一下, 該從應該哪裡著手看起
感謝<(_ _)>


--
Tags: Linux

All Comments

Elizabeth avatar
By Elizabeth
at 2017-04-16T10:50
http://forum.hadoop.tw/ 應該這裡問喔~
Elma avatar
By Elma
at 2017-04-21T01:30
謝謝您
Sierra Rose avatar
By Sierra Rose
at 2017-04-22T19:08
你可以先到namenode:50070看看
Hardy avatar
By Hardy
at 2017-04-23T02:01
而且hadoop沒有datanode就不能放檔案,namenode只放me
tadata
如果關掉兩台資料節點,那主節點意義何在?
Ingrid avatar
By Ingrid
at 2017-04-23T18:58
除非你是要全部服務跑在同一台,那就得改很多地方
Daniel avatar
By Daniel
at 2017-04-27T15:58
想把它改成stanealone的模式,畢竟量很小
Candice avatar
By Candice
at 2017-04-28T22:12
當初弄Hadoop分析數據不知道是不是要練技術
Emma avatar
By Emma
at 2017-05-02T17:15
先把服務都停掉 像是stop-dfs.sh stop-yarn.sh
再來把設定檔都改成單機版再次啟動應該就可以了
Isabella avatar
By Isabella
at 2017-05-05T04:32
可以問薪水嗎XD

fedora 10 自動安裝檔 .ks

Queena avatar
By Queena
at 2017-04-12T11:15
Dear All, 公司內有一份之前研發軟體公司做的fedora 10 為準的自動安裝光碟 根目錄內有三個KS 檔案 分別是 G5.KS G5-HP.KS G5MAN.KS 不曉得要怎麼判斷自動安裝是以那個KS檔案為準呢? Benson - ...

wget進行登入的動作

Ula avatar
By Ula
at 2017-04-11T20:41
大家好 小弟我最近在弄archlinux 可是所在的地方的網路很難設定 最後剩下一個必須透過網頁登入的網路 上網查是可以透過 links 但是這個在liveCD裡面好像不支援 wget 查過但是方法都不適用 想請問wget確切登這個網站的方法是? http://imgur.com/a/dsOm ...

scp在傳檔案的時候有lock file嗎

Sierra Rose avatar
By Sierra Rose
at 2017-04-11T02:25
用scp 傳檔案到目的地的期間 user 在目的地機器上可以把檔案移走或是刪除嗎? https://goo.gl/rduX1W 上有人回說有看到 但是有人說只lock一點 另外 https://goo.gl/brNvgn 有人說會又有人說不會lock 如果在目的地有一支程式在等著要處理這個檔案 是會看 ...

命令提示字元有辦法加判斷式嗎?

William avatar
By William
at 2017-04-10T00:52
之前有請教過如何修改命令提示字元。後來知道是PS1的參數,譬如我用 PS1=and#39;[\D{%M:%S} \e[1;34m\u\e[0m \e[1;45m$?\e[0m \e[1;32m\W\e[0m]\$ and#39; 就會變成 [46:47 root 0 ~]# 這樣,可以看看執行前後的時 ...

win10雙系統 ubuntu 重開後進不去

Andy avatar
By Andy
at 2017-04-09T19:27
板上神人好 最近想學linux google後找人別人的教學文做雙系統 那時候硬碟分割不出來 所以我重灌win10後 把500g的硬碟切了 100g出來要分給linux 用ubuntu16.04做了usb開機碟 用usb開機進選單 再裝ubuntu到硬碟裡 硬碟分割是 1g /boot 15 ...