大数据
rc_ll
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
ubuntu16.04编译hadoop-1.0.0
这几天看《hadoop技术内幕》种关于mapreduce的书,董西城著的,所以想编译下hadoop-1.0.0,弄了2天,最终成功了,所以把经验分享下。 1、下载hadoop-1.0.0.tar.gz。不知道可以从哪里下,搜的是csdn上别人上传的,还化了2C币 2、安装eclipse,去下载最新版直接装就是了,我的是java-oxygen版。 3、安装ant。去apacheant官网下最新原创 2017-11-01 15:36:49 · 315 阅读 · 0 评论 -
在ubuntu16.04下编译hadoop-2.7.4
安装protobuf-2.5.0,执行protoc --version 出现错误 protoc: error while loading shared libraries: libprotobuf.so.8: cannot open shared object file: No such file or directory 使用export LD_LIBRARY_PATH="usr/lo原创 2017-11-01 17:11:22 · 330 阅读 · 0 评论 -
ubuntu16.04安装sbt
1、进入http://www.scala-sbt.org/download.html 2、 echo "deb https://dl.bintray.com/sbt/debian/" | sudo tee -a /etc/apt/sources.list.d/sbt.list sudo apt-key adv --keyserver hkp://keyserver.ubuntu.com:80原创 2017-11-04 17:54:50 · 1236 阅读 · 0 评论 -
用操作系统为centos 7的虚拟机搭建Hadoop2.7集群
前面装java、各个node的步骤按网上的资料就可以了。下面是主要的问题。问题:(1)按书上步骤搭建完后,使用hdfs的put命令不能上传文件,这时需要使用命令systemctl stop firewalld.service来关闭防火墙。不能用service iptables stop命令,会出错Failed to start iptables.service: Unit iptables.ser原创 2018-01-17 21:16:40 · 244 阅读 · 0 评论 -
用Spark 2跑SparkPi的问题
出现Application failed 2 times due to AM Container 在yarn-site.xml中添加下面的 property> name>yarn.application.classpathname> value>$HADOOP_CLIENT_CONF_DIR,$HADOOP_CONF_DIR,$HADOOP_COMMON_HOME/*,$H转载 2018-01-29 03:08:07 · 530 阅读 · 0 评论 -
hadoop 2.7.4 源码编译
1 到hadoop官网网站下载hadoop- -2.7.4-src.tar.gz 2 解压hadoop- -2.7.4-src.tar.gz 3 安装jdk,再/etc/profile末尾加入 export JAVA_HOME=/opt/jdk1.8.0_102 export CLASSPATH=.:$JAVA_HOME/jre/lib/rt.jar:$JAVA_HOME/lib/tool...转载 2018-12-19 11:26:29 · 310 阅读 · 0 评论
分享