虚拟机伪分布式与分布式搭建

Hadoop虚拟机搭建：从伪分布到完全分布

最新推荐文章于 2024-09-14 17:18:05 发布

原创

最新推荐文章于 2024-09-14 17:18:05 发布 · 1.1k 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#集群搭建

本文详细介绍了如何在虚拟机中搭建Hadoop，从伪分布式环境开始，逐步讲解如何配置和启动NameNode、DataNode，直至实现完全分布式集群。包括网络映射、节点间免密配置、配置文件的同步以及通过浏览器访问HDFS状态等关键步骤。

1.伪分布式搭建
首先启动一台虚拟机 (确保虚拟机可以联网)
用xshell连接连接成功后

使用命令 rz
如果没有rz命令
输入yum install lrzsz -y 进行下载
ftp 使用命令rz-----
注：首先下载—yum install lrzsz -y
下载完成后

在opt下新建一个文件夹
使用 rz 将本机中的jdk压缩包发送到opt下的文件下

发送完成后
进行解压
tar -zxvf jdk的压缩包名
tar -zxvf jdk1.8.0_121

然后配置jdk的环境变量

export JAVA_HOME=/opt/software/jdk1.8.0_121
	export PATH=$PATH:$JAVA_HOME/bin
	source /etc/profile-----让环境变量生效
注：
	用户变量  .bashrc
	系统变量	/etc/profile

上传hadoop
与jdk方式一样存放到相同目录下

解压hadoop
tar -zxvf hadoop-2.6.5.tar.gz

配置 NameNode 与 datanode

bin---系统的操作命令（文件的增删改查）
sbin--系统的管理命令（集群的启动、关闭）
etc/hadoop---配置信息
(1)	修改hdfs-site.xml配置文件
	<property>
    <name>dfs.replication</name>
    <value>1</value>
	</property>
	<property>     
	 <name>dfs.namenode.secondary.http-address</name>
	     <value>node01(本机名):50090</value>
	</