hadoop-3.1.2部署HDFS并保证集群外的节点可以访问HDFS

最新推荐文章于 2022-09-29 16:41:16 发布
置顶 最新推荐文章于 2022-09-29 16:41:16 发布
阅读量1.3k 收藏
点赞数 1
CC 4.0 BY-SA版权
分类专栏： hadoop集群 文章标签： hadoop HDFS HTTPFS
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/xiaocai_233/article/details/89429479
本教程详细介绍了如何在Hadoop 3.1.2环境下部署HDFS，并确保外部节点通过HTTPFS进行访问。步骤包括安装Hadoop，配置JAVA环境，编辑相关配置文件如core-site.xml和hdfs-site.xml，设置主机名，启动NameNode等服务，以及开放14000端口以允许HTTPFS服务提供外部访问。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

参考教程：
https://hadoop.apache.org/docs/r3.0.0/hadoop-project-dist/hadoop-common/SingleCluster.html#Standalone_Operatio1.1

https://hadoop.apache.org/docs/r3.0.0/hadoop-hdfs-httpfs/index.html

1.install hadoop-3.1.2

wget http://mirror.bit.edu.cn/apache/hadoop/common/hadoop-3.1.2/hadoop-3.1.2.tar.gz

2.解压hadoop(任意目录）

tar -zxvf hadoop-3.1.2.tar.gz

3.安装JAVA-8

sudo apt-get update
sudo apt-get install openjdk-8-jdk
java -version

4.配置环境变量

open ~/.bashrc or /etc/proflie

加入

export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64

5.在/etc/hosts中加入master节点的名字

vim /et
最低0.47元/天 解锁文章

200万优质内容无限畅学
华为云单机版hadoop2.7.3及外网访问hdfs
gaodaojiang2015的博客
04-30 446
关闭防火墙 systemctl stop firewalld.service systemctl disable firewalld.service 配置ip映射 内网IP：192.168.x.xxx 公网IP：115.61.xx.xx vim /etc/hosts ::1 localhost localhost.localdomain localhost6 localhost6.localdomain6 127.0.0.1 localhost l
HDFS入门之Shell基本操作
Running_Tiger的博客
01-31 9970
HDFS入门之Shell基本操作 1. Shell 命令行客户端Hadoop 提供了文件系统的 shell 命令行客户端 2.Shell 命令选项 3.Shell 常用命令介绍
设置Hadoop用户以便访问任何HDFS文件
大数据技术杂谈
03-25 4293
Hadoop分布式文件系统实现了一个和POSIX系统类似的文件和目录的权限模型。每个文件和目录有一个所有者（owner）和一个组（group）。文件或目录对其所有者、同组的其他用户以及所有其他用户分别有着不同的权限。对文件而言，当读取这个文件时需要有r权限，当写入或者追加到文件时需要有w权限。对目录而言，当列出目录内容时需要具有r权限，当新建或删除子文件或子目录时需要有w权限，当访问目录的子节点时
HDFS权限管理、用户身份认证和数据访问授权、UGO权限管理、umask权限掩码、UGO权限相关命令、Web页面修改UGO权限
qq_40585384的博客
12-13 2888
作为分布式文件系统，HDFS也集成了一套兼容POSIX的权限管理系统。客户端在进行每次文件操时，系统会从**用户身份认证**和**数据访问授权**两个环节进行验证： 客户端的操作请求会首先通过本地的用户身份验证机制来获得“凭证”（类似于身份证书），然后系统根据此“凭证”分辨出合法的用户名，再据此查看该用户所访问的数据是否已经授权。一旦这个流程中的某个环节出现异常，客户端的操作请求便会失败。
hadoop最新版本3.1.1全量jar包
10-26
hadoop-annotations-3.1.1.jar hadoop-common-3.1.1.jar hadoop-mapreduce-client-core-3.1.1.jar hadoop-yarn-api-3.1.1.jar hadoop-auth-3.1.1.jar hadoop-hdfs-3.1.1.jar hadoop-mapreduce-client-hs-3.1.1.jar hadoop-yarn-client-3.1.1.jar hadoop-client-api-3.1.1.jar hadoop-hdfs-client-3.1.1.jar hadoop-mapreduce-client-jobclient-3.1.1.jar hadoop-yarn-common-3.1.1.jar hadoop-client-minicluster-3.1.1.jar hadoop-mapreduce-client-app-3.1.1.jar hadoop-mapreduce-client-shuffle-3.1.1.jar hadoop-yarn-server-common-3.1.1.jar hadoop-client-runtime-3.1.1.jar hadoop-mapreduce-client-common-3.1.1.jar hadoop-mapreduce-client-uploader-3.1.1.jar
hadoop-3.1.2.tar.gz
08-22
9. **安全与管理**：Hadoop 3.1.2引入了更多安全管理特性，如Kerberos认证、访问控制列表(Access Control Lists, ACLs)等，确保集群的安全运行。 10. **监控与日志**：通过Hadoop的Web界面（例如NameNode和...
eclipse搭建hadoop-3.1.2所需插件.rar
12-20
8. **开发与调试**：现在，你可以使用Eclipse创建Hadoop MapReduce项目，编写Java代码实现Mapper和Reducer，使用内置的HDFS浏览器查看和管理HDFS上的文件，甚至可以直接在Eclipse中调试MapReduce任务。 总结来说，...
hadoop-3.1.2-src.tar.gz
05-23
1. HDFS组件：在"Hadoop-3.1.2-src"源码中，HDFS的相关代码位于`hadoop-hdfs-project`目录下。此部分涵盖了NameNode、DataNode、Client等组件的实现，通过这些源码可以了解到HDFS的元数据管理、数据块存储、故障恢复...
spark-3.1.2-bin-hadoop2.7.tar
09-25
Spark可以在各种集群管理器上运行，包括独立的集群、Apache Mesos、Hadoop YARN和Kubernetes。这种灵活性使得Spark非常适合于各种不同的计算环境和需求。 Spark 3.1.2是该框架的一个版本号，表示这是该系列的更新...
hdfs跨集群访问
diyicedaan的专栏
09-29 1587
HFDS 跨集群访问
Hadoop如何启动HttpFS服务？
wanjialin的博客
10-27 873
概述： HttpFS 是一个提供RESTful 接口的网关的服务器，该网关支持所有HDFS文件系统操作。 HttpFS是一个独立于HDFS的服务，需要手动安装。 HttpFS默认端口号为14000。 操作步骤： 1、首先配置core-site.xml 文件，添加如下配置 <property> <name>hadoop.proxyuser.root.hosts</name> <value>*</value> <
外网无法访问HDFS解决方法
小周你好
10-10 8610
文章目录前提症状分析猜测验证 前提 A 云主机是 Linux 环境，搭建 Hadoop 伪分布式，公网 IP：49.4.71.xxx，内网 IP：192.168.0.80，主机名：ruixin4。 Hadoop 配置信息如下： &amp;lt;property&amp;gt; &amp;lt;name&amp;gt;fs.defaultFS&amp;lt;/name&amp;gt; &amp;lt;value
hadoop常见问题——通过集群外服务器控制HDFS出现的permission denied权限问题
拾依H的专栏
06-19 1488
问题现象 通过Hadoop集群外的电脑操作HDFS时，提示permission denied。 原因分析 老版本hadoop可以通过设置hadoop.job.ugi属性来获取对hdfs的操作权限，但是Clouder CDH3B3开始后hadoop.job.ugi不再生效。 解决办法 1、修改core-site.xml文件，增加以下两个属性 hadoop.proxyuser.
Hadoop通过路径和和链接访问HDFS
热门推荐
sunrising_hill的专栏
12-10 2万+
如果既想在Hadoop服务器本地可以通过绝对路径如"/user/hadoop"方式访问hdfs，也想通过"hdfs://local host:9000/user/hadoop的方式访问hdfs，此时做需要配置core-site.xml： fs.defaultFS hdfs://master.domain.com:9000       上面的配置只能让你使用"hadoop fs -ls
访问HDFS常见的客户端
代码星辰的博客
07-28 3164
目录1.HDFS Shell Command2.Java API3.C API libhdfs4.其它访问HDFS的方式4.1.WebHDFS4.2.HttpFS4.3.WebHDFS和HttpFS之间区别 访问HDFS常见的客户端有HDFS Shell Command、Java API、C API libhdfs等等。 1.HDFS Shell Command HDFS Shell Command的操作俗称HDFS命令行操作，其命令类似于Linux的shell对文件的操作，许多命令也与其相似，例如ls、m
局域网下连接其他电脑的HDFS集群
mlin的博客
10-14 2001
第一步: 参看我的局域网下用其他电脑连接VM虚拟机方法 这个是必须的,如果你会了那可以跳过 第二步: 学会怎么配置虚拟网路之后我们看一下这个配置文件 hdfs-site.xml &amp;amp;lt;?xml version=&amp;quot;1.0&amp;quot; encoding=&amp;quot;UTF-8&amp;quot;?&amp;amp;gt; &amp;amp;lt;?xml-stylesheet type=&a
HDFS部分端口的区别
zhangvalue的博客
11-22 3039
8020端口：是namenode节点active状态下的端口号 在cd /usr/local/Cellar/hadoop/3.1.1/libexec/etc/hadoop     core-site.xml下的配置： &lt;configuration&gt; &lt;property&gt; &lt;name&gt;hadoop.tmp.dir&lt;/name&gt;...
Hadoop 1.X & Hadoop 2.X 默认端口对比
二十三小时
11-02 2127
1，Hadoop 2.X 默认端口 组件 节点 默认端口 配置 用途说明 HDFS DataNode 50010 dfs.datanode.address datanode服务端口，用于数据传输 HDFS DataNode 50075 dfs.datanode.http.address http服务的端口 HDFS Data
[user1@node11 apache-flume-1.9.0-bin]$ bin/flume-ng agent -c ./conf -f ./conf/spool-hdfs.conf -n a1 -Dflume.root.logger=INFO,console Info: Sourcing environment configuration script /home/user1/hadooptools/apache-flume-1.9.0-bin/conf/flume-env.sh Info: Including Hadoop libraries found via (/home/user1/hadooptools/hadoop-3.1.2/bin/hadoop) for HDFS access Info: Including HBASE libraries found via (/home/user1/hadooptools/hbase-2.4.17/bin/hbase) for HBASE access Info: Including Hive libraries found via (/home/user1/hadooptools/hive/apache-hive-3.1.2-bin) for Hive access + exec /home/jdk1.8.0_161/bin/java -Xmx20m -Dflume.root.logger=INFO,console -cp &#39;/home/user1/hadooptools/apache-flume-1.9.0-bin/conf:/home/user1/hadooptools/apache-flume-1.9.0-bin/lib/*:/home/user1/hadooptools/hadoop-3.1.2/etc/hadoop:/home/user1/hadooptools/hadoop-3.1.2/share/hadoop/common/lib/*:/home/user1/hadooptools/hadoop-3.1.2/share/hadoop/common/*:/home/user1/hadooptools/hadoop-3.1.2/share/hadoop/hdfs:/home/user1/hadooptools/hadoop-3.1.2/share/hadoop/hdfs/lib/*:/home/user1/hadooptools/hadoop-3.1.2/share/hadoop/hdfs/*:/home/user1/hadooptools/hadoop-3.1.2/share/hadoop/mapreduce/lib/*:/home/user1/hadooptools/hadoop-3.1.2/share/hadoop/mapreduce/*:/home/user1/hadooptools/hadoop-3.1.2/share/hadoop/yarn:/home/user1/hadooptools/hadoop-3.1.2/share/hadoop/yarn/lib/*:/home/user1/hadooptools/hadoop-3.1.2/share/hadoop/yarn/*:/home/user1/hadooptools/hbase-2.4.17/conf:/home/jdk1.8.0_161/lib/tools.jar:/home/user1/hadooptools/hbase-2.4.17:/home/user1/hadooptools/hbase-2.4.17/lib/shaded-clients/hbase-shaded-client-byo-hadoop-2.4.17.jar:/home/user1/hadooptools/hbase-2.4.17/lib/client-facing-thirdparty/audience-annotations-0.13.0.jar:/home/user1/hadooptools/hbase-2.4.17/lib/client-facing-thirdparty/commons-logging-1.2.jar:/home/user1/hadooptools/hbase-2.4.17/lib/client-facing-thirdparty/htrace-core4-4.2.0-incubating.jar:/home/user1/hadooptools/hbase-2.4.17/lib/client-facing-thirdparty/reload4j-1.2.22.jar:/home/user1/h
最新发布
03-20
<think>好的，我现在需要帮助用户解决Apache Flume 1.9.0启动时遇到的依赖问题，特别是与Hadoop和HBase相关的问题。首先，我得回忆一下Flume的基本结构和依赖管理。用户提到启动问题，可能涉及到环境变量、配置文件、依赖包缺失或版本冲突等方面。 首先，用户提供的引用内容中有提到配置flume-env.sh文件，特别是设置JAVA_HOME。这可能是一个关键点，因为如果Java环境变量没有正确配置，Flume可能无法启动。需要检查flume-env.sh中JAVA_HOME的路径是否正确，并且确保所有节点都分发了正确的配置。此外，用户提到删除guava-11.0.2.jar可能导致异常，如果没有正确配置Hadoop环境变量，这也可能引发问题。因此，需要确认Hadoop的环境变量是否在启动Flume的节点上正确设置。 接下来，检查Flume的依赖包。Flume需要Hadoop和HBase的相关JAR文件，尤其是在集成HBase作为存储时。用户可能没有将Hadoop和HBase的依赖包放入Flume的lib目录下，或者版本不兼容。例如，HBase 2.x和Flume 1.9.0可能存在依赖冲突，需要确认版本是否匹配。另外，Guava库的版本冲突是一个常见问题，Hadoop、HBase和Flume各自可能依赖不同版本的Guava，需要统一版本。 然后，查看Flume的配置文件是否正确。例如，在引用[3]中提到了Kafka Source的配置，包括拦截器的使用。如果用户在自己的配置中使用了自定义拦截器，但没有正确打包或配置类路径，可能导致启动失败。需要确认所有插件或自定义组件的路径是否正确，并且相关类已被正确加载。 日志分析也是重要的一步。查看Flume的启动日志，特别是错误堆栈信息，可以快速定位问题。例如，ClassNotFoundException或NoSuchMethodError通常指向依赖缺失或版本冲突。用户需要检查日志中的具体错误信息，并据此排查。 网络和权限问题也不能忽视。确保所有涉及的Hadoop和HBase服务正常运行，并且Flume有足够的权限访问所需的目录和端口。例如，HBase的ZooKeeper连接是否正确，HDFS的路径是否可写等。 另外，用户提到使用xsync分发Flume，这需要确认所有节点的配置和依赖是否一致。特别是环境变量和JAR文件，任何一个节点上的不一致都可能导致问题。 最后，建议用户按照步骤逐步检查，从环境变量到依赖包，再到配置文件和日志分析，逐步排除可能的原因。如果问题依然存在，提供详细的日志信息可以进一步帮助诊断。</think>### Apache Flume 1.9.0启动问题排查指南 #### 1. **检查环境变量配置** - **Java环境**：确保`flume-env.sh`中配置了正确的`JAVA_HOME`，例如： ```bash export JAVA_HOME=/opt/module/jdk1.8.0_144 # 路径需与实际安装目录一致[^1] ``` - **Hadoop环境**：如果Flume需要与Hadoop交互，需在`flume-env.sh`中添加Hadoop环境变量： ```bash export HADOOP_HOME=/opt/module/hadoop-3.1.3 export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop ``` 确保所有节点通过`xsync`同步配置[^1][^4]。 #### 2. **验证依赖库兼容性** - **Hadoop/HBase依赖**： - 将Hadoop和HBase的客户端JAR包（如`hadoop-common-*.jar`、`hbase-client-*.jar`）复制到Flume的`lib`目录。 - **注意版本冲突**：例如，HBase 2.x与Flume 1.9.0可能存在Guava库冲突。需确保所有组件使用**相同版本的Guava**（如Guava 30.1-jre）[^5]。 - **依赖检查命令**： ```bash ls $FLUME_HOME/lib | grep -E &#39;hadoop|hbase|guava&#39; # 确认关键依赖存在 ``` #### 3. **配置文件排查** - **Agent配置**：检查`.conf`文件中Source、Channel、Sink的配置，例如Kafka Source需指定正确的bootstrap servers和topic： ```properties a1.sources.r1.kafka.bootstrap.servers = hadoop102:9092,hadoop103:9092,hadoop104:9092 a1.sources.r1.kafka.topics = topic_log # 与Kafka实际topic一致[^3] ``` - **插件与拦截器**：若使用自定义拦截器（如`TimeStampInterceptor`），需将编译后的JAR包添加到Flume的`plugins.d`目录或`lib`目录。 #### 4. **日志分析** - **查看启动日志**： ```bash tail -f $FLUME_HOME/logs/flume.log # 实时监控日志 ``` - **常见错误**： - **ClassNotFoundException**：依赖缺失，检查相关JAR是否在`lib`目录。 - **NoSuchMethodError**：版本冲突，需统一依赖版本（如Guava、Netty等）。 #### 5. **网络与权限验证** - **HDFS权限**：若Sink写入HDFS，需确保Flume进程用户（如`xiaobai`）有目标目录的写入权限。 - **HBase连接**：检查HBase的ZooKeeper地址配置是否正确，且相关服务（如HMaster、RegionServer）已启动。 #### 6. **最小化测试** - **使用简单配置测试**：通过极简配置排除复杂因素，例如： ```properties # test.conf a1.sources = r1 a1.sinks = k1 a1.channels = c1 a1.sources.r1.type = netcat # 使用内置Netcat Source a1.sinks.k1.type = logger a1.channels.c1.type = memory a1.sources.r1.channels = c1 a1.sinks.k1.channel = c1 ``` 启动命令： ```bash bin/flume-ng agent -n a1 -c conf -f test.conf -Dflume.root.logger=INFO,console ``` --- ###
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值