在ubuntu上安装hadoop

1,添加专用的hadoop系统用户

添加组hadoop,添加组用户hduser

$ sudo addgrouphadoop
$ sudo adduser --ingroup hadoop hduser

 

2, 安装openssh server(伪分步模式需要用到)。hadoop需要ssh权限管理节点(nodes)

$ sudo apt-getinstall ssh

$ sudo apt-getinstall rsync

 

参考: <http://fuliang.iteye.com/blog/562396>

首先,为hduser生成ssh key

$ su - hduser

$ssh-keygen -t rsa

用空密码创建ssh key pair

第二,让ssh用新创建的key访问本地机器

cat$HOME/.ssh/id_rsa.pub >> $HOME/.ssh/authorized_keys

第三,通过连接本机用hduser测试ssh安装

 

3,下载安装hadoop

下载地址:http://www.apache.org/dyn/closer.cgi/hadoop/core

我下载了最新的hadoop1.1.1版本

解压到 /user/local目录下,重命名hadoop1.1.1hadoop,然后给hduser设置权限

 

$ cd /usr/local

$ sudo tar xzf hadoop-1.1.1.tar.gz

$ sudo mv hadoop-1.1.1 hadoop

$ sudo chown -Rhduser:hadoop hadoop

 

4,修改/usr/local/hadoop/conf/hadoop-env.sh

如果发现hadoop-env.sh的权限是read-only时,可以sudo chmod +x hadoop-env.sh 来修改权限

 

gedit/usr/local/hadoop/conf/hadoop-env.sh

添加export JAVA_HOME=/usr/lib/jvm/java7

 

5,用jps查看hadoop是否在运行

hduser@ubuntu:/usr/local/hadoop$jps

5012 Jps

 

jps在/usr/lib/jvm/java7/bin目录下

别名:aliasjps='/usr/lib/jvm/jdk1.6.0_33/bin/jps'

 sudo update-alternatives--install /usr/bin/jps jps /usr/lib/jvm/java7/bin/jps

 

参考:

http://www.cnblogs.com/xioyaozi/archive/2012/05/26/2519144.html

http://www.michael-noll.com/tutorials/running-hadoop-on-ubuntu-linux-single-node-cluster/

 

 

Ubuntu安装Hadoop需要几个步骤,以下是基本的指南: 1. **更新系统**: ```sh sudo apt update && sudo apt upgrade ``` 2. **添加官方存储库**: ```sh echo "deb http://archive.ubuntu.com/ubuntu $(lsb_release -cs) universe" | sudo tee /etc/apt/sources.list.d/hadoop.list ``` 3. **添加密钥**: ``` curl -fsSL https://www.apache.org/dist/hadoop/common/hadoop-common-{{hadoop_version}}/KEYS | sudo apt-key add - ``` 将`{{hadoop_version}}`替换为你要安装的具体版本,如`2.x.y`。 4. **安装依赖项**: ```sh sudo apt install openjdk-8-jdk-headless ``` 5. **安装Hadoop**: 对于Hadoop 2.x: ```sh sudo apt-get install hadoop-hdfs-client hadoop-yarn-client ``` 或者对于Hadoop 3.x(推荐使用Cloudera Manager或HDP等管理工具安装,因为它们提供了更完整的环境配置) 6. **配置环境变量**: 在`.bashrc`或`.zshrc`文件中添加Hadoop的路径: ```sh export HADOOP_HOME=/usr/lib/hadoop export PATH=$PATH:$HADOOP_HOME/bin ``` 7. **启动服务**: 首次安装后,可能需要手动创建必要的目录并启动守护进程,例如: ```sh sudo hdfs namenode -format sudo service hadoop-hdfs start sudo service hadoop-yarn start ``` 8. **验证安装**: 运行命令 `jps` 查看Hadoop守护进程是否正在运行,通过Web浏览器访问`http://localhost:50070` 查看Hadoop UI。 完成以上步骤后,你就成功地在Ubuntu安装Hadoop。注意,实际操作中可能需要根据具体的Hadoop版本和个人需求进行调整,并可能还需要对配置文件进行个性化设置。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值