MacBook pro安装hadoop遇到的问题

MacBookPro安装Hadoop问题及解决方案
在MacBook Pro上安装Hadoop时遇到了几个问题,包括免密登录不生效、Web页面无法显示、启动报权限错误以及创建文件失败。通过删除旧的SSH密钥并重新生成RSA密钥解决了免密登录问题;Web页面无法显示是由于端口号错误,改为9870后正常;启动报错是由于缺少免密配置;创建文件失败通过禁用HDFS权限解决。配置完成后,Hadoop安装成功。

MacBook pro安装遇到的问题
1·免密登录操作
问题:安装Hadoop之前进行免密操作,但是ssh localhost时依旧要输密码
原来的操作为
ssh-keygen -t dsa -p ‘’ -f ~/.ssh/id_dsa
cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys
问题解决:操作将原来的~/.ssh里面的除了known_hosts文件都删除,重新执行以下命令
ssh-keygen -t rsa
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
具体原因有待考查,目前只知道dsa是专用密钥,rsa是公用密钥
2.web页面
问题是:web页面出不来,提示连接不到localhost服务器
我写的端口是http://locahost:50070
问题解决:端口号改成9870
原因分析:可能是因为hadoop版本问题,端口号改成9870了
3.启动时因为权限问题报错
原因是刚开始没有配置免密登录
4.遇到无法创建文件
报错信息:mkdir: Permission denied: user=qiao.lan, access=WRITE, inode="/qiao":qiaowenbiao:supergroup:drwxr-xr-x
首先实现在webui界面和在终端中使用命令创建文件夹;
在hdfs-site.xml配置

<property>
      <name>dfs.permissions.enabled</name>
      <value>false</value>
</property>
以下是在MacBook安装Hadoop的步骤: 步骤1:安装Java Hadoop是用Java编写的,因此要在MacBook安装Java。您可以通过以下命令检查是否已安装Java: java -version 如果Java未安装,则可以从Oracle官方网站下载并安装Java。 步骤2:下载Hadoop 您可以从Apache Hadoop官方网站下载Hadoop的最新版本。或者,您可以使用以下命令从终端下载Hadoop: curl -O http://apache.mirrors.lucidnetworks.net/hadoop/common/hadoop-3.3.0/hadoop-3.3.0.tar.gz 步骤3:解压Hadoop 使用以下命令解压Hadoop: tar -zxvf hadoop-3.3.0.tar.gz 步骤4:配置Hadoop 在解压缩的Hadoop目录中,找到conf文件夹。在此文件夹中,找到以下文件: - core-site.xml - hdfs-site.xml - mapred-site.xml - yarn-site.xml 在这些文件中,按照以下方式进行配置: core-site.xml: <configuration> <property> <name>fs.defaultFS</name> <value>hdfs://localhost:9000</value> </property> </configuration> hdfs-site.xml: <configuration> <property> <name>dfs.replication</name> <value>1</value> </property> <property> <name>dfs.namenode.name.dir</name> <value>/Users/<your-username>/hadoop/hdfs/namenode</value> </property> <property> <name>dfs.datanode.data.dir</name> <value>/Users/<your-username>/hadoop/hdfs/datanode</value> </property> </configuration> mapred-site.xml: <configuration> <property> <name>mapreduce.framework.name</name> <value>yarn</value> </property> </configuration> yarn-site.xml: <configuration> <property> <name>yarn.nodemanager.aux-services</name> <value>mapreduce_shuffle</value> </property> </configuration> 步骤5:启动Hadoop 使用以下命令启动Hadoop: ./sbin/start-all.sh 您可以使用以下命令检查Hadoop是否正在运行: jps 步骤6:测试Hadoop 在终端中,使用以下命令创建一个名为input的文件夹: hadoop fs -mkdir /input 在input文件夹中,创建一个名为input.txt的文件,并将以下内容复制到文件中: Hello Hadoop Hello Big Data 使用以下命令将input.txt文件上传到Hadoophadoop fs -put input.txt /input 使用以下命令运行Hadoop的WordCount示例: hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-3.3.0.jar wordcount /input /output 使用以下命令从Hadoop中检索输出: hadoop fs -cat /output/part-r-00000 您应该看到以下输出: Big 1 Data 1 Hadoop 1 Hello 2 恭喜您已成功在MacBook安装和运行Hadoop
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值