Leo Shao
你好,我已经成功的安装了hadoop和r环境,并且按照你的steps跑成功了例子,谢谢你。
不过我有一个问题,我看到其他一些资料里都指出需要在所有结点上安装rmr2,但是我仅仅在一台节点上安装,却能够跑成功例子,不知道博主有没有注意到这点?
bsspirit
[未知用户] 刚才回复的内容有点问题。
R是通过hadoop streaming方式调用hadoop的,要根据streaming的规则,去安装R的环境。
你可以列一下,你的hadoop的各节点,数据在datanode上的分布吗?
Leo Shao
[未知用户] 恩,我刚才也试了下在所有data节点上安装rmr2,重新跑任务的时候发现这次用到了3个结点,速度快了很多,应该是需要在所有datanode上安装的,否则task会失败,我先前能够成功实际是假象,应该是task失败了,jobtrack重新分配给安装过rmr2的datanode了,所以看上去成功,实际只用到了1台机器。
bsspirit
[未知用户] 解决RHadoop错误:PipeMapRed.waitOutputThreads(): subprocess failed with code 1
http://blog.fens.me/rhadoop-rmr2-pipemapred/
bsspirit
[未知用户] 解决RHadoop错误:PipeMapRed.waitOutputThreads(): subprocess failed with code 1
http://blog.fens.me/rhadoop-rmr2-pipemapred/
duzixian
[未知用户] 你好,你的问题是怎么解决的? 我遇到和你一样的报错,一样的问题,datanode部署和namenode部署是一样的,问题是客户端执行rmr2的还是那样的错。。
duzixian
[未知用户] 另外能告诉我你的联系方式吗?张丹同学,能否把dongguozhong的邮箱告诉我呢?谢谢
Ann-133020617
hadoop-Streaming运行时:error:# of failed Map Tasks exceeded allowed limit
我在运行时候出现这个错误 代码用C语言写的。 我看上面有个一样的错误 您说是hadoop本身的错误。我想知道这个错误怎么解决呢?
bsspirit
[未知用户] 上面只是提示是map运行超过次数了,根本原因没有提示出来,map为什么会超过运行次数呢?
你需要查datanode的日志,可能是程序有异常,datanode宕机,其他人的程序在长期占用CPU,内存等。
先查明具体原因,再解决。
bsspirit
安装时,切换成root用户安装。
R安装的库的位置有3个,不同的用户权限安装的位置不一样。
/usr/lib/R/site-library
普通用户安装时,会有一个如下的错误,要调整权限。
http://blog.fens.me/rhadoop-rmr2-pipemapred/
bsspirit
安装时,切换成root用户安装。
R安装的库的位置有3个,不同的用户权限安装的位置不一样。
/usr/lib/R/site-library
普通用户安装时,会有一个如下的错误,要调整权限。
http://blog.fens.me/rhadoop-rmr2-pipemapred/
bsspirit
从你的错误中看,hadoop.jar 没有在R的运行路径中。
Missingrequiredoptions:input,outputUsage:HADOOP_HOME/bin/hadoop jar
bsspirit
Yarn,似乎hadoop版本太高了。换成hadoop 1.0.x再试试。
isaac
楼主您好 我也遇到了和sisi一样的问题:
> install.packages("Rcpp")
Installing package(s) into ‘/usr/local/lib/R/site-library’
(as ‘lib’ is unspecified)
--- Please select a CRAN mirror for use in this session ---
Loading Tcl/Tk interface ... done
Warning message:
package ‘Rcpp’ is not available (for R version 2.15.3)
并且我此时的用户权限确实是:
root@rmaster:~# pwd
/root
root@rmaster:~# R
所以我应该如何解决这个问题呢?
非常感谢楼主
jesebel
[未知用户] 我遇到这个问题,是自己下载了一个Rcpp的包,然后用R CMD INSTALL命令安装好的,希望对你有用
jesebel
楼主,我安装rmr的时候,遇到很奇怪的问题,
sudo R CMD INSTALL -l /usr/local/lib/R/site-library/ /home/hduser/R/rmr2-2.2.0.tar.gz
untar2(tarfile, files, list, exdir)里有警告:
skipping pax global extended headers
错误: cannot extract package from ‘/home/hduser/R/rmr2-2.2.0.tar.gz’
google也未果,能帮忙解决下么,谢谢啦
jesebel
我没试过大数据,不好意思
rhadoop
hi lz 所以的hadoop系统节点都要安装R?
rhadoop
就是找不到rscript文件
Caused by: java.io.IOException: Cannot run program "Rscript": java.io.IOException: error=2, No such file or directory at java.lang.ProcessBuilder.start(ProcessBuilder.java:460) at org.apache.hadoop.streaming.PipeMapRed.configure(PipeMapRed.java:214) ... 23 more Caused by: java.io.IOException: java.io.IOException: error=2, No such file or directory at java.lang.UNIXProcess.(UNIXProcess.java:148) at java.lang.ProcessImpl.start(ProcessImpl.java:65) at
但是
[root@amhdp1 R]# type -a Rscript
Rscript is /usr/local/bin/Rscript
麻烦帮我看一下,hadoop版本是
[root@amhdp1 R]# hadoop version
Hadoop 1.0.3.14
rhadoop
好吧 搞定了 谢谢