[Hadoop]ERROR security.UserGroupInformation:PriviledgedActionException as:Administrator

原:http://blog.youkuaiyun.com/shiqidide/article/details/7585048

hadoop1.0.4在windows远程调试linux的程序时,报错:

12/04/24 15:32:44 WARNutil.NativeCodeLoader: Unable to load native-hadoop library foryour platform... using builtin-java classes where applicable
12/04/24 15:32:44 ERROR security.UserGroupInformation:PriviledgedActionException as:Administratorcause:java.io.IOException: Failed to set permissions of path:\tmp\hadoop-Administrator\mapred\staging\Administrator-519341271\.stagingto 0700
Exception in thread "main" java.io.IOException: Failed to setpermissions of path:\tmp\hadoop-Administrator\mapred\staging\Administrator-519341271\.stagingto 0700
    atorg.apache.hadoop.fs.FileUtil.checkReturnValue(FileUtil.java:682)
    atorg.apache.hadoop.fs.FileUtil.setPermission(FileUtil.java:655)
    atorg.apache.hadoop.fs.RawLocalFileSystem.setPermission(RawLocalFileSystem.java:509)
    atorg.apache.hadoop.fs.RawLocalFileSystem.mkdirs(RawLocalFileSystem.java:344)
    atorg.apache.hadoop.fs.FilterFileSystem.mkdirs(FilterFileSystem.java:189)
    atorg.apache.hadoop.mapreduce.JobSubmissionFiles.getStagingDir(JobSubmissionFiles.java:116)
    atorg.apache.hadoop.mapred.JobClient$2.run(JobClient.java:856)
    atorg.apache.hadoop.mapred.JobClient$2.run(JobClient.java:850)
    atjava.security.AccessController.doPrivileged(Native Method)
    atjavax.security.auth.Subject.doAs(Subject.java:396)
    atorg.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1093)
    atorg.apache.hadoop.mapred.JobClient.submitJobInternal(JobClient.java:850)
    atorg.apache.hadoop.mapreduce.Job.submit(Job.java:500)
    atorg.apache.hadoop.mapreduce.Job.waitForCompletion(Job.java:530)
    atcom.hadoop.learn.test.WordCountTest.main(WordCountTest.java:85)

 

这个是Windows下文件权限问题,在Linux下可以正常运行,不存在这样的问题。

解决方法是:修改hdfs /tmp目录权限

mango@master:~/hadoop-1.0.4/bin$ ./hadoop dfs -chmod -R 777   /tmp  
mango@master:~/hadoop-1.0.4/bin$ ./hadoop dfs -ls /tmp            
Found 1 items
drwxrwxrwx   - mango supergroup          0 2013-01-14 16:07 /tmp/hadoop-mango
再运行就应该不报错了。如果还有错:

解决方法是,修改/hadoop-1.0.4/src/core/org/apache/hadoop/fs/FileUtil.java里面的checkReturnValue,注释掉即可(有些粗暴,在Window下,可以不用检查)
[java]  view plain copy
  1. ......  
  2.   private static void checkReturnValue(boolean rv, File p,  
  3.                                        FsPermission permission  
  4.                                        throws IOException  
  5.       
  6.    
  7. ......  

重新编译打包hadoop-core-1.0.4.jar,替换掉hadoop-1.0.4根目录下的hadoop-core-1.0.4.jar即可。

以下是我编译成功的hadop-core-1.0.4.jar:http://download.youkuaiyun.com/detail/snow_eagle_howard/4842134

替换之后,刷新项目,设置好正确的jar包依赖,现在再运行WordCountTest,即可。



//还有一个常见的权限异常:

ERROR security.UserGroupInformation: PriviledgedActionException as:Administrator cause:org.apache.hadoop.security.AccessControlException: org.apache.hadoop.security.AccessControlException: Permission denied: user=Administrator, access=WRITE, inode="mapred":mango:supergroup:rwxr-xr-x
Exception in thread "main" org.apache.hadoop.security.AccessControlException: org.apache.hadoop.security.AccessControlException: Permission denied: user=Administrator, access=WRITE, inode="mapred":mango:supergroup:rwxr-xr-x
at sun.reflect.NativeConstructorAccessorImpl.newInstance0(Native Method)

      .......


解决办法时将 /tmp目录权限设置为777 


java.io.IOException: failure to login at org.apache.hadoop.security.UserGroupInformation.loginUserFromSubject(UserGroupInformation.java:796) at org.apache.hadoop.security.UserGroupInformation.getLoginUser(UserGroupInformation.java:748) at org.apache.hadoop.security.UserGroupInformation.getCurrentUser(UserGroupInformation.java:621) at org.apache.hadoop.mapreduce.Cluster.<init>(Cluster.java:81) at org.apache.hadoop.mapreduce.Cluster.<init>(Cluster.java:75) at org.apache.hadoop.mapred.JobClient.init(JobClient.java:470) at org.apache.hadoop.mapred.JobClient.<init>(JobClient.java:449) at org.apache.hadoop.eclipse.server.HadoopServer.getJobClient(HadoopServer.java:488) at org.apache.hadoop.eclipse.server.HadoopServer$LocationStatusUpdater.run(HadoopServer.java:103) at org.eclipse.core.internal.jobs.Worker.run(Worker.java:55) Caused by: javax.security.auth.login.LoginException: No LoginModule found for com.sun.security.auth.module.NTLoginModule at java.base/javax.security.auth.login.LoginContext.invoke(LoginContext.java:731) at java.base/javax.security.auth.login.LoginContext$4.run(LoginContext.java:672) at java.base/javax.security.auth.login.LoginContext$4.run(LoginContext.java:670) at java.base/java.security.AccessController.doPrivileged(AccessController.java:688) at java.base/javax.security.auth.login.LoginContext.invokePriv(LoginContext.java:670) at java.base/javax.security.auth.login.LoginContext.login(LoginContext.java:581) at org.apache.hadoop.security.UserGroupInformation.loginUserFromSubject(UserGroupInformation.java:771) ... 9 more
最新发布
04-02
<think>嗯,用户遇到了一个Java的IOException,具体是failure to login,堆栈跟踪显示是Hadoop相关的。首先,我需要理解这个错误的根本原因。 看堆栈信息,问题出在UserGroupInformation.loginUserFromSubject方法,原因是javax.security.auth.login.LoginException: No LoginModule found for com.sun.security.auth.module.NTLoginModule。这说明系统在尝试使用NTLoginModule进行登录时,找不到对应的LoginModule。NTLoginModule通常是Windows环境下用于身份验证的模块,而错误可能发生在非Windows系统上,或者相关模块没有被正确加载。 接下来,我需要考虑可能的原因。首先,用户是否在非Windows系统上运行Hadoop?比如Linux或Mac,因为这些系统可能没有NTLoginModule。Hadoop默认配置可能在Windows环境下使用NTLoginModule,而在其他系统可能需要不同的配置,比如使用UnixLoginModule。 另一个可能性是Java的安全策略文件没有正确配置。JRE的lib/security目录下的java.security文件需要包含对应的LoginModule配置。如果用户升级了Java版本,可能导致配置被覆盖或路径变化,从而找不到模块。 还有,Hadoop的配置文件中,比如core-site.xml中的hadoop.security.authentication设置是否正确?如果设置为kerberos,但未正确配置,也可能导致问题。但这里错误提到的是NTLoginModule,可能更与操作系统相关。 解决方案方面,首先建议用户检查运行环境。如果在非Windows系统,应该修改Hadoop配置,使用适合的LoginModule,比如UnixLoginModule。同时,检查Java的安全配置文件,确保有NTLoginModule的配置条目,并且路径正确。如果不需要Windows认证,可以尝试将hadoop.security.authentication设为simple,避免使用安全模块。 另外,用户可能缺少必要的JAR文件或依赖项。比如,NTLoginModule位于rt.jar或其它特定的JAR中,需要确认这些文件在类路径中。不过,Java 8之后模块化可能影响了这些类的访问,需要检查模块配置是否导出相关包。 最后,建议用户验证Hadoop和Java版本的兼容性,确保没有版本冲突导致的问题。如果用户在使用IDE(如Eclipse),可能需要调整IDE的运行时配置,确保正确的依赖项和JVM参数。 总结,这个问题主要由操作系统与Hadoop认证配置不匹配引起,需要调整配置或环境设置来正确加载对应的LoginModule。</think>这个错误`java.io.IOException: failure to login`通常与Hadoop的安全认证配置相关。以下是逐步分析及解决方案: --- ### **一、错误原因分析** #### 1. **核心异常** ```plaintext Caused by: javax.security.auth.login.LoginException: No LoginModule found for com.sun.security.auth.module.NTLoginModule ``` - **关键问题**:Java安全框架找不到`NTLoginModule`(Windows系统的登录模块)。 - **触发场景**:当Hadoop尝试通过Kerberos或操作系统本地认证(如Windows AD)进行身份验证时,但当前环境(如Linux/Mac)不兼容`NTLoginModule`。 #### 2. **堆栈路径** 错误发生在`UserGroupInformation.getLoginUser()`,表明Hadoop尝试获取当前用户的登录信息时失败。常见于: - Hadoop配置启用了安全模式(如Kerberos),但未正确配置。 -Windows环境错误地使用了Windows专属的`NTLoginModule`。 --- ### **二、解决方案** #### 1. **检查操作系统与Hadoop配置** - **非Windows系统**:修改Hadoop配置,使用`UnixLoginModule`代替`NTLoginModule`。 - 修改`core-site.xml`: ```xml <property> <name>hadoop.security.authentication</name> <value>simple</value> <!-- 或 "kerberos"(需额外配置) --> </property> ``` - **Windows系统**:确认`NTLoginModule`可用: - 检查JRE的`lib/security/java.security`文件,确保包含: ```plaintext login.configuration.provider=com.sun.security.auth.module.NTLoginModule ``` #### 2. **修复Java安全策略** - **添加缺失的LoginModule**: 1. 编辑JRE的`lib/security/java.security`文件。 2. 找到`login.configuration.provider`项,确保其指向正确的模块: ```plaintext login.configuration.provider=com.sun.security.auth.module.UnixLoginModule # Linux/Mac # 或 login.configuration.provider=com.sun.security.auth.module.NTLoginModule # Windows ``` #### 3. **禁用Hadoop安全模式(临时测试)** - 如果不需要Kerberos认证,将`hadoop.security.authentication`设为`simple`: ```xml <!-- core-site.xml --> <property> <name>hadoop.security.authentication</name> <value>simple</value> </property> ``` #### 4. **检查Java版本兼容性** - **Java 9+模块化问题**:如果使用Java 9及以上版本,需确保`java.security.auth`模块已导出。 - 添加JVM参数: ```bash --add-exports=java.base/javax.security.auth=ALL-UNNAMED ``` #### 5. **验证依赖项** - 确认`rt.jar`(包含`NTLoginModule`)存在于类路径中(仅限Oracle JDK)。 - **OpenJDK用户**:可能需要安装额外组件: ```bash sudo apt-get install openjdk-<version>-jdk-headless # Linux ``` --- ### **三、验证步骤** 1. **重启Hadoop服务**: ```bash hadoop-daemon.sh stop namenode hadoop-daemon.sh start namenode ``` 2. **运行测试作业**: ```bash hadoop jar example.jar WordCount input output ``` 3. **检查日志**:确认无`LoginException`。 --- ### **四、总结** 此错误通常由以下原因导致: - **操作系统与LoginModule不兼容**(如Linux使用`NTLoginModule`)。 - **Java安全配置缺失**(`java.security`文件未正确配置)。 - **Hadoop安全模式配置错误**(如误启用Kerberos但未配置)。 通过调整`core-site.xml`、修复Java安全策略或切换Java版本,可解决问题。
评论 6
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值