Hadoop 之WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform...

最新推荐文章于 2024-01-17 21:39:22 发布

yyangqqian

最新推荐文章于 2024-01-17 21:39:22 发布

阅读量451

点赞数

CC 4.0 BY-SA版权

分类专栏：大数据

本文链接：https://blog.youkuaiyun.com/const_/article/details/99682214

10 篇文章

订阅专栏

本文详细解析了Hadoop集群在使用hdfs命令时出现的Native Library加载警告问题，分析了警告的原因并非源于32位与64位的不兼容，而是glibc版本过低。提供了三种解决方案，包括更新glibc版本、修改log4j日志级别以及调整Hadoop环境变量。

注：升级glib库解决问题请参加链接：https://blog.youkuaiyun.com/l1028386804/article/details/88420473

问题描述

配置完Hadoop集群并启动成功，但是在使用hdfs命令查看hdfs文件系统数据的时候出现如下警告信息：

WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable

百度了下，很多人回答这是hadoop的预编译包是32bit的，运行在64bit上就会有问题。但是这个答案大多数时候都是错的。

如何验证64bit还是32bit?

cd ${hadoop_home}/lib/native
# 用ldd命令查看依赖库
ldd libhadoop.so.1.0.0

输出信息如下：
在这里插入图片描述
可以看到依赖的都是/lib64/的动态库，所以不是64位/32位问题。但是看到报错，GLIBC_2.14找不到，现在检查系统的glibc库, ldd --version即可检查。
输入命令：

ldd --version

输出如下信息：
在这里插入图片描述
原来系统预装的glibc库是2.12版本，而hadoop期望是2.14版本，所以打印警告信息。

重新编译glibc.2.14版本，安装后专门给hadoop使用，这个有点麻烦。
参考：https://blog.youkuaiyun.com/l1028386804/article/details/88420473

直接在log4j日志中去除告警信息。
在${hadoop_home}/etc/hadoop/log4j.properties文件末尾中添加：

log4j.logger.org.apache.hadoop.util.NativeCodeLoader=ERROR

在${hadoop_home}/etc/hadoop/hadoop-env.sh文件加一条如下命令：

export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib:$HADOOP_COMMON_LIB_NATIVE_DIR"

然后source一下。