虚拟机 伪分布式与分布式 搭建

本文详细介绍了如何在虚拟机中搭建Hadoop,从伪分布式环境开始,逐步讲解如何配置和启动NameNode、DataNode,直至实现完全分布式集群。包括网络映射、节点间免密配置、配置文件的同步以及通过浏览器访问HDFS状态等关键步骤。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1.伪分布式搭建
首先启动一台虚拟机 (确保虚拟机可以联网)
用xshell连接 连接成功后

使用命令 rz
如果没有rz命令
输入yum install lrzsz -y 进行下载
ftp 使用命令rz-----
注:首先下载—yum install lrzsz -y
下载完成后

在opt下新建一个文件夹
使用 rz 将本机中的jdk压缩包发送到opt下的文件下

发送完成后
进行解压
tar -zxvf jdk的压缩包名
tar -zxvf jdk1.8.0_121

然后配置jdk的环境变量

export JAVA_HOME=/opt/software/jdk1.8.0_121
	export PATH=$PATH:$JAVA_HOME/bin
	source /etc/profile-----让环境变量生效
注:
	用户变量  .bashrc
	系统变量	/etc/profile

上传hadoop
与jdk方式一样 存放到相同目录下

解压hadoop
tar -zxvf hadoop-2.6.5.tar.gz

配置 NameNode 与 datanode

bin---系统的操作命令(文件的增删改查)
sbin--系统的管理命令(集群的启动、关闭)
etc/hadoop---配置信息
(1)	修改hdfs-site.xml配置文件
	<property>
    <name>dfs.replication</name>
    <value>1</value>
	</property>
	<property>     
	 <name>dfs.namenode.secondary.http-ad
### 设置伪分布式 Hadoop 环境 #### 准备工作 为了在 VMware 虚拟机搭建伪分布式的 Hadoop 环境,需要完成 JDK Hadoop 的安装。 确保已经下载并准备好所需的软件包。对于 Java 开发工具包 (JDK),可以按照如下方式解压缩至 `/usr/local` 并重命名为 `java`: ```bash tar -zxf jdk-8u212-linux-x64.tar.gz -C /usr/local/ mv /usr/local/jdk1.8.0_212/ /usr/local/java ``` 接着编辑全局环境变量文件来配置 JAVA_HOME 变量[^3]。 #### 安装配置 Hadoop 选择合适的位置创建用于存放 Hadoop 文件的目录,比如 `/home/software` 或者其他自定义位置,并在此处解压 Hadoop 压缩包: ```bash tar -zxvf hadoop-3.1.3.tar.gz -C /home/software/ ``` 进入新建立的 Hadoop 主目录下的配置子目录,修改必要的配置文件以适应当前系统的设置。首先调整 `hadoop-env.sh` 来指明 JDK 的具体路径: ```bash cd /home/software/hadoop-3.1.3/etc/hadoop vim hadoop-env.sh export JAVA_HOME=/opt/install/jdk1.8.0_152 source hadoop-env.sh ``` 之后继续处理其他的 XML 配置文件如 `core-site.xml` 以便于支持本地模式运行[^2]。 #### 启动服务 当所有的准备工作完成后,可以通过执行特定命令启动各个组件的服务进程,在单节点集群即所谓的“伪分布式”环境下测试整个框架的功能性。 通过上述步骤可以在 VMware 中成功部署一个简单的伪分布式 Hadoop 实验平台,这有助于理解大数据处理的概念技术细节。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值