HADOOP配置
按下面命令解压缩压缩包,并改名
tar -zxf hadoop-2.6.0-cdh5.14.2.tar.gz -C /opt/soft/
mv hadoop-2.6.0-cdh5.14.2 hadoop260
更改hadoop文件夹的权限为root
chown -R root:root hadoop260/
在hadoop260下新建文件夹tmp,在tmp下新建data 和name 文件夹
[root@single hadoop260]# mkdir tmp
[root@single tmp]# mkdir name data
修改配置以下配置文件:
在/hadoop260/etc/hadoop下面
hadoop-env.sh
vi hadoop-env.sh
export JAVA_HOME=/opt/soft/jdk180
core-site.xml
<configuration>
<property>
<name>hadoop.tmp.dir</name>
<value>/opt/soft/hadoop260/tmp</value>
</property>
<property>
<name>fs.defaultFS</name>
<value>hdfs://192.168.181.128:9000</value>
</property>
</configuration>
hdfs-site.xml
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>/opt/soft/hadoop260/tmp/name</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>/opt/soft/hadoop260/tmp/data</value>
</property>
</configuration>
mapred-site.xml.template
mv mapred-site.xml.template mapred-site.xml
<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>
yarn-site.xml
<configuration>
<!-- Site specific YARN configuration properties -->
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<!-- 日志聚集功能使能 -->
<property>
<name>yarn.log-aggregation-enable</name>
<value>true</value>
</property>
<!-- 日志保留时间设置 7 天 -->
<property>
<name>yarn.log-aggregation.retain-seconds</name>
<value>604800</value>
</property>
</configuration>
配置环境变量
vi /etc/profile
shift+g到最后一行
#HADOOP_HOME
export HADOOP_HOME=/opt/soft/hadoop260
export PATH=$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATH
#激活 source /etc/profile
格式化
/opt/software/hadoop/hadoop260/sbin下 hdfs namenode -format
启动服务: start-all.sh
jps出现5个进程就表示成功
#浏览器 IP地址:
IP:50070 hdfs信息浏览
IP:8088 yarn信息浏览
IP:19888 job history信息浏览 – 要先在hadoop/sbin下启动服务: ./mr-jobhistory-daemon.sh start historyserver
准备Windows hadoop环境
把hadoop的压缩包解压到Windows某个盘的文件夹下,记录路径
windows解压后hadoop\bin目录下需要替换这两个文件,资源在下方链接
hadoop.dll(这个文件本可以只放在C:Windows/system32下,这里放一份是以防重做系统格式化C盘,做个备份)
winutils.exe
再把hadoop.dll拷贝一份到C:Windows/system32下
链接: https://pan.baidu.com/s/1EVmUNqVGv70uGtj1cEgtMQ 提取码: chyk