windows hadoop issue

本文介绍在Windows环境下使用Hadoop时遇到的两个常见问题及其解决方案:一是通过使用Cygwin运行Hadoop命令时出现的路径转换问题;二是Eclipse提交Hadoop程序时遇到的权限拒绝错误。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1:

在hadoop安装目录下,运行运行命令

bin/hadoop fs -put /home/files/* /input 

报错,提示

put: File /home/files/ does not exist.

由于 Cygwin 的路径并无法正常被 Hadoop 解析,亦即 Hadoop 经过 Windows OS 告知路径为 C:\...\files\ 但在 Cygwin 中却为 \...\files

因此倘若您看到 File XXXX does not exist 的问题,可用 cygpath -w 指令把路径转变成 Windows 绝对路径,就可以解决,运行


bin/hadoop fs -put $(cygpath -w /cygdrive/d/cygwin/home/files/*) /input

拷贝成功。


2

Win下Eclipse提交hadoop程序出错:org.apache.hadoop.security.AccessControlException: Permission denied: user=DrWho, access=WRITE

solution: 到服务器上修改hadoop的配置文件:conf/hdfs-core.xml, 找到 dfs.permissions 的配置项 , 将value值改为 false

<property>
<name>dfs.permissions</name>
<value>false</value>
<description>
If "true", enable permission checking in HDFS.
If "false", permission checking is turned off,
but all other behavior is unchanged.
Switching from one parameter value to the other does not change the mode,
owner or group of files or directories.
</description>
</property>


评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值