MacOS部署Hadoop

本文详细介绍了在Mac环境下使用Homebrew安装JDK1.8.0_301,然后配置Hadoop的步骤,包括设置JAVA_HOME环境变量,配置core-site.xml、hdfs-site.xml、mapred-site.xml,创建数据目录,执行namenode格式化以及启动Hadoop和日志收集服务。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

jdk版本

java version "1.8.0_301"
Java(TM) SE Runtime Environment (build 1.8.0_301-b09)
Java HotSpot(TM) 64-Bit Server VM (build 25.301-b09, mixed mode)

执行命令安装

brew install hadoop

配置Hadoop

配置hadoop-env.sh

export JAVA_HOME=/Library/Java/JavaVirtualMachines/jdk1.8.0_301.jdk/Contents/Home

配置core-site.xml

<property>
  <name>fs.defaultFS</name>
  <value>hdfs://localhost:9000</value>
</property>

配置hdfs-site.xml

<property>
  <name>dfs.replication</name>
  <value>1</value>
</property>
<property>
  <name>dfs.blocksize</name>
  <value>128M</value>
</property>
<property>
  <name>dfs.namenode.name.dir</name>
  <value>file:///usr/local/Cellar/hadoop/3.3.4/data/dfs/name</value>
</property>
<property>
  <name>dfs.datanode.data.dir</name>
  <value>file:///usr/local/Cellar/hadoop/3.3.4/data/dfs/data</value>
</property>
</configuration>

创建相应目录

mkdir -p /usr/local/Cellar/hadoop/3.3.4/data/dfs/data
mkdir -p /usr/local/Cellar/hadoop/3.3.4/data/dfs/name

配置mapred-site.xml

<property>
  <name>mapreduce.framework.name</name>
  <value>yarn</value>
</property>
<property>
    <!-- 表示提交到hadoop中的任务采用yarn来运行,要是已经有该配置则无需重复配置 -->
    <name>mapreduce.framework.name</name>
    <value>yarn</value>
</property>
<property>
  <!--日志监控服务的地址,一般填写为nodenode机器地址 -->
    <name>mapreduce.jobhistroy.address</name>
    <value>localhost:10020</value>
</property>
<property>
    <name>mapreduce.jobhistroy.webapp.address</name>
    <value>localhost:19888</value>
</property>

执行初始化命令

hdfs namenode -format

启动Hadoop

start-all.sh

启动日志收集服务

mr-jobhistory-daemon.sh start historyserver
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值