rhadoop安裝問題 - Linux

Olga avatar
By Olga
at 2017-01-11T18:44

Table of Contents

[目的]=================================================================
在ubuntu16上安裝R和hadoop環境
並用rhdfs和rmr2執行簡單範例

[問題]=================================================================
(問題1):在library(rmr2)時會出現錯誤訊息:
Please review your hadoop settings. See help(hadoop.settings)

(問題2):library(rhdfs)後
init.hdfs()出現錯誤訊息:
17/01/11 17:20:17 WARN util.NativeCodeLoader:
Unable to load native-hadoop
library for your platform...

using builtin-java classes where applicable

猜或許是hadoop streaming設置錯了??
[安裝過程]=================================================================
啟動hadoop
cd ~/hadoop && sbin/start-all.sh
-----------------------------------------------------------------------------
裝r在master就好
sudo apt-get update
sudo apt-get upgrade
sudo apt-get install r-base
java 設訂-----------------------------------------------------------
echo $JAVA_HOME
sudo JAVA_HOME=/usr/lib/jvm/jdk/ R CMD javareconf
in the R-------------------------------------------------------------
進入R
sudo R
這裡有錯誤,無法下載rJava

install.packages(c("codetools","R","Rcpp","RJSONIO","bitops","digest","functional","stringr","plyr","reshape2","rJava","caTools"))
下載rmr(用於mapreduce 和 rhabse)
wget --no-check-certificate
https://raw.github.com/RevolutionAnalytics/rmr2/3.3.0/build/rmr2_3.3.0.tar.gz
wget --no-check-certificate
https://raw.github.com/RevolutionAnalytics/rhdfs/master/build/rhdfs_1.0.8.tar.gz

在R中
---------------------------------------------------------------------------------------
$sudo R
install.packages("/home/hduser/rhdfs_1.0.8.tar.gz", repos=NULL, type="source")
install.packages("/home/hduser/rmr2_3.3.0.tar.gz", repos = NULL,
type="source")
安裝影片如下:
https://www.youtube.com/watch?v=w70h_u8qoHM&t=680s


[路徑設置/網路資料
]=================================================================
參考一些網路資料
都無法決解這問題
發現很多討論都跟HADOOP_STREAMING路徑設置有關@@

@資料一

http://stackoverflow.com/questions/29682432/r-mapreduce-library-rmr2-shows-a-warning-message-when-loaded
這篇提到要在R中重設Sys.setenv的路徑跟我完全不一樣
感覺也不是我的問題
@資料二
https://github.com/RevolutionAnalytics/RHadoop/issues/122
這篇還沒開始看,英文好吃力
@資料三
https://github.com/RevolutionAnalytics/rmr2/issues/155
這篇跟我的問題非常像,但我還是看不太懂,而他設的路徑也跟我不一樣@@
>small.ints = to.dfs(1:10)
>mapr = mapreduce(input = small.ints,
map = function(k,v) cbind(v,v^2))
會有
Streaming Command Failed!
Error in ...
hadoop streaming failed with error code 5
不知是什麼意思>"<
以下是我設的路徑:
Sys.setenv(HADOOP_HOME="/home/hduser/hadoop")
Sys.setenv(HADOOP_PREFIX="/home/hduser/hadoop")
Sys.setenv(HADOOP_CMD="/home/hduser/hadoop/bin/hadoop")

Sys.setenv(HADOOP_STREAMING="/home/hduser/hadoop/share/hadoop/tools/lib/hadoop-streaming-2.7.3.jar")

不知是哪錯的...
在hadoop/logs也看不太懂錯誤是什麼QAQ
希望大大們幫看一下我HADOOP_STREAMING設置是否有錯?或怎麼看錯誤
或是哪出錯了>"<





--
Tags: Linux

All Comments

Ivy avatar
By Ivy
at 2017-01-13T08:40
沒有人可以回答你問題,完全不懂在說什麼
你找那麼多資料 只會照抄還是真的理解?
Rebecca avatar
By Rebecca
at 2017-01-16T10:07
直接貼你的Error log 沒人想知道你從頭到尾的過程
Andy avatar
By Andy
at 2017-01-19T03:57
然後標題你打錯了,多一個r
Linda avatar
By Linda
at 2017-01-20T02:36
先不要管 R 的部分,直接用 Java 去 call Hadoop 看看
Irma avatar
By Irma
at 2017-01-20T19:15
如果 Java 也不能 call,用 R 只是讓事情更複雜
Daniel avatar
By Daniel
at 2017-01-24T08:11
好謝謝,log的錯誤我去找找
Ina avatar
By Ina
at 2017-01-26T09:56
標題沒有錯 是 r+ hadoop
Ula avatar
By Ula
at 2017-01-30T08:25
感謝n大 java可以做word count
Frederic avatar
By Frederic
at 2017-01-31T01:19
是沒有錯,問題是要大寫
Elma avatar
By Elma
at 2017-02-02T16:57
然後把log貼上來,才有用
Necoo avatar
By Necoo
at 2017-02-06T11:34
建議你換舊版的kernel,例如2.6的lowltaency版

sort 排序問題

Robert avatar
By Robert
at 2017-01-10T23:58
不好意思 想請問大家 如果資料是 REG_0_ REG_1_ REG_10_ REG_2_ 希望他排成 REG_0_ REG_1_ REG_2_ REG_10_ 可以這樣寫 sort -t and#39;_and#39; -k 2 -n 但如果變成 REG_0_ REG_1_ REG_10_ REG_ ...

MRIcro 沒辦法跑

Michael avatar
By Michael
at 2017-01-10T23:24
目前的作業系統是:linux ubuntu 16.04 64bit 把錯誤訊息餵狗之後沒幾個網頁有 出現的問題跟下面那個網頁很像 http://askubuntu.com/questions/462494/mricro-not-running-on-ubuntu-14-04-lts 但是卻還是無法使用 ...

LPIC LV1&LV2 和 RHCE

Elizabeth avatar
By Elizabeth
at 2017-01-08T13:02
※ [本文轉錄自 MIS 看板 #1OSRGEty ] 作者: cplusplus426 (c++) 看板: MIS 標題: [請益] LPIC LV1andamp;LV2 和 RHCE 時間: Sun Jan 8 11:37:48 2017 各位前輩們好 因為最近開始大量使用linux的OS, ...

playonlinux gdiplus

Tom avatar
By Tom
at 2017-01-07T23:55
http://imgur.com/a/ssNuU 這是我遊戲畫面 很久以前我在mint上多裝了gdiplus就好了 但現在換fedora後就不行了... 不知道我是少裝了什麼或是還需要設定什麼嗎? 不知道有沒有看的出來我這還需要在加裝什麼東西嗎? - ...

PATH修改過後改不回來

Dora avatar
By Dora
at 2017-01-06T16:39
distribution:ubuntu 12.04.5 照鳥哥第12章,在家目錄底下建一個bin目錄andamp;script script裡加上這兩行: PATH=/bin:/sbin:/usr/bin:/usr/sbin:/usr/local/bin:/usr/local/sbin:~/bin expo ...