配置HDFS

最新推荐文章于 2025-06-12 10:00:00 发布
原创 最新推荐文章于 2025-06-12 10:00:00 发布 · 707 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

这篇博客详细介绍了配置和使用HDFS的过程，包括Linux的常用shell命令、HDFS的shell命令，如创建目录、删除文件等，以及通过Java进行HDFS操作的程序示例。还提供了实验步骤，包括在Eclipse中创建Maven项目，编写并运行Java程序，以及检查运行结果的方法。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

Linux的shell命令

常用的linux的shell命令：

cd /aa          转到/aa目录

pws            显示当前目录

ll /aa           显示/aa目录

mkdir /aa       新建/aa目录

rm /aa/out.txt   删除/aa目录下的out.txt文件

cat /aa/out.txt   查看/aa目录下的out.txt文件的内容

vi /aa/out.txt    编辑/aa目录下的out.txt文件的内容

ifconfig         查看IP地址

ip addr         查看IP地址

hdfs的shell命令

hdfs的shell命令，有三种形式，用前面两个。

hdfs dfs    √

hadoop fs  √

hadoop dfs  ×

常用的hdfs的shell命令：

hdfs dfs -ls /  查看hdfs根目录下文件和目录

hdfs dfs -ls -R /      查看hdfs根目录下包括子目录在内的所有文件和目录

hdfs dfs -mkdir /aa/bb  在hdfs的/aa目录下新建/bb目录

hdfs dfs -rm -r /aa/bb   删除hdfs的/aa目录下的/bb目录

hdfs dfs -rm /aa/out.txt  删除hdfs的/aa目录下的out.txt文件

 

hdfs dfs -put anaconda-ks.cfg /aa        把本地文件上传到hdfs

hdfs dfs -copyFromLocal a.txt /          把本地文件上传到hdfs

hdfs dfs -get /bb.txt bbcopy.txt          从hdfs下载文件到本地

hdfs dfs -copyToLocal /bb.txt bbcopy.txt   从hdfs下载文件到本地

 

HDFS的Java程序

一、HDFSMKdir.java新建HDFS目录/aadir。

二、HDFSUpload.java写入/上传 本地文件c:\\hdfs\\aa.txt 到HDFS的/aadir目录下。

加载包：

三、HDFSDownload.java读/下载 HDFS的根目录文件/bb.txt 到本地c:\\hdfs目录下。

加载包：

四、HDFSFileIfExist.java查看HDFS文件/bb.txt是否存在。

实验步骤

  1. 搭建Hadoop伪分布式模式、或者完全分布式模式
  2. Windows里安装配置JDK+Eclipse+Maven
  3. 在Eclipse里新建Maven Project，新建包，新建class
  4. 编程上述4个Java程序
  5. 虚拟机的namenode主机上，启动Hadoop
  6. 在eclipse里运行上述4个Java程序
  7. 使用hdfs的shell命令查看运行结果
  8. 使用web console查看运行结果
Amnesia.
关注
hadoop之hdfs参数配置详解
Technology_2016的博客
04-19 4282
1、hdfs-site.xml 参数配置 – dfs.name.dir – NameNode 元数据存放位置 – 默认值：使用core-site.xml中的hadoop.tmp.dir/dfs/name – dfs.block.size – 对于新文件切分的大小，单位byte。默认是64M,建议是128M。每一个节点都要指定，包括客户端。 – 默认值：67108864
Hadoop-002-部署并配置HDFS集群
加贝的博客
10-30 1360
第一篇前期环境准备后, 本文主要是HDFS的部署完整配置, 直到搭建完成成功访问 http://hadoop-1:9870
Hadoop HDFS配置
11-27
Hadoop HDFS配置 1、JDK安装,解压到/usr/local/jdk1.6,并配置/etc/profile环境 export JAVA_HOME=/usr/local/jdk1.6 export PATH=$JAVA_HOME/bin:$JAVA_HOME/jre:$PATH export CLASSPATH=$JAVA_HOME/lib:$JAVA_HOME/lib/tools.jar 2、下载Hadoop 解压到每台服务器的/data/soft目录
HDFS配置
m0_74274344的博客
11-12 1533
hdfs-site.xml 配置 HDFS 的具体参数，包括副本数、NameNode 和 DataNode 的数据存储路径。• dfs.namenode.name.dir 和 dfs.datanode.data.dir：指定 NameNode 和 DataNode 的数据存储路径。core-site.xml 配置 HDFS 的基本设置，包括 NameNode 的 URI 和数据存储的基本参数。• hadoop.tmp.dir：Hadoop 临时文件的存储目录，可根据需要调整路径。
HDFS 的配置
最新发布
2403_88200095的博客
06-12 154
HDFS 的配置
hdfs安装和配置过程以及hadfs的工作原理（备忘）
热门推荐
SprintfWater的专栏
04-12 1万+
在老师的帮助下，折腾了大半天终于把hdfs部署到ubuntu上去了。在这里记录一下各步骤备忘： 在讲步骤之前，先总结一下自己对hadoop的工作你原理的理解： 1.这个分布式系统是通过一个namenode(运行在master上的一个进程）来作为master来统筹管理多个作为slavers的datanode（运行在slavers上的一个进程）； 2.master将各slavers的实际
hdfs配置
siyueabc的博客
11-29 200
一般来说hadoop hdfs有12个盘，每个盘2~3T yarn resourcemanager nodemanager 如果集群比较小 20个以下，resourcemanager可以放到某个datanode机器上 hdfs namenode datanode nodemanager（占用cpu资源）和datanode（占用硬盘资源）同时部署一台机器，充分利用资源，另外
基于zookeeper安装部署下，配置 HDFS-HA 集群
m0_61475271的博客
09-30 783
版权声明：本文内容及产生的收益归{浮屠}和葛一帆所有，请勿抄袭与不正当转载，一切解释权归{浮屠}和葛一帆所有！二、配置 hadoop-env.sh（之前有的话，可以忽略）当格式化ZK后，ZK中将会多了hadoop-ha。三、配置 core-site.xml。四、配置 hdfs-site.xml。五、启动 HDFS-HA 集群。详细相关配置请看下一篇👇。
hadoop-2.6.5 + eclipse附配置hdfs相关文件.zip
11-16
标题中的"hadoop-2.6.5 + eclipse附配置hdfs相关文件.zip"指的是一个包含Hadoop 2.6.5版本与Eclipse集成开发环境（IDE）中配置HDFS（Hadoop Distributed File System）相关文件的压缩包。这个压缩包可能是为了帮助...
hadoop2.6安装HUE，配置hdfs,yarn,hive
l-jobs的专栏
04-17 1633
HUE简介：通过使用Hue我们可以在浏览器端的Web控制台上与Hadoop集群进行交互来分析处理数据。简单来讲，就是用图形化的界面来操作HDFS上的数据，运行MapReduce Job，执行Hive的SQL语句，浏览Hbase数据库，oozie，flume等等。网络上单一的教程不足以帮助人安装成功，故写下此篇文章，记录下安装过程。本篇博客资料来源:官网网站：http://gethue.com/官网...
HADOOP之HDFS集群配置
qq_53905637的博客
09-13 2588
HDFS配置小白上手篇
HDFS配置文件hdfs-site
05-31
HDFS测试环境配置文件，稳定运行无异常，分享给大家学习参考用；
hadoop hdfs配置文件详解
12-29
hadoop的 hdfs配置文件 对文件的每项property进行中文描述 希望的家支持 过几天还会献上其他
hadoop-hdfs配置 + HA(高可用)配置(学习)
m0_65385133的博客
03-16 2090
需要编写hadoop目录下的配置文件配置文件在hadoop安装目录下面的etc/hadoop/下。成功会出现namenode,datanode,secondarynamenode。在浏览器中打开namenode所在id: 192.168.72.88:9870。core-site.xml hadoop的核心配置文件。hadoop-env.sh 配置hadoop的相关环境。hdfs-site.xml hdfs的核心配置文件。
配置HDFS分布式文件系统
喜三仔的世界
05-21 193
配置单结点文件系统  首先，根据自己所安装的Hadoop版本来选择配置指南  选择好相应版本的配置指南后，可以看到如下画面 往下拉，找到这个 点击后跳转到新页面，找到Pseudo-Distributed Operation下面的Configuration一栏，下面就是配置指南  这里需要讲一下： Hadoop不同版本之间的文件目录有可能不同，尤其是首数字不同的版本，例如2.1版本前，Hado...
HDFS安装配置
m0_49293344的博客
01-20 2487
Hadoop 3.3.0版本提供了ARM版本的软件包，用户从项目官网上下载后只需要经过简单的配置，就可以完成部署，运行Wordcount，TeraSort等实例程序没有出现问题。wordcount是大数据领域的Hello World，运行一个统计文件中单词出现次数的程序，可以用来验证Hadoop集群的基本功能。经过上面的配置，以及能够在本地运行MapReduce任务了，为了完整的验证功能，我们还需要配置YARN。本文将记录实际安装步骤以及过程中发现的问题，安装完成后将运行几个常见的任务，验证功能性。
HDFS分布式安装配置笔记
随便起个不重复的名字
02-17 5677
1.准备三台虚拟机 centos6.5 192.168.20.171 node1 NameNode节点 centos6.5 192.168.20.172 node2 DataNode节点、SecondaryNameNode(必须和NameNode不在一台机器上) centos6.5 192.168.20.173 node3 DataNode节点 由于Hadoop是由java开发的,所以请大
(1) HDFS安装与配置
allensandy的博客
04-24 3167
目录 准备 第一步 设置主机名 第二步 设置网络IP 第三步 添加主机名和IP的映射关系 第四步 关闭防火墙 第五步 创建hadoop用户 第六步 在master主机上下载hadoop3.1.4、jdk1.8 第七步 添加环境变量 第八步 设置免密登录 第九步 hadoop配置 第十步 拷贝hadoop文件和/etc/profile和jdk文件 第十一步 格式化及启动hadoop 准备 准备三台虚拟机(CentOS 7.6)，网络选择NAT模式 master 192.168.1
配置hdfs
03-09
### 如何配置 HDFS（Hadoop 分布式文件系统） #### 系统准备 在 Linux 操作系统上安装和配置 HDFS 前，需确认系统的最低要求已满足。这通常涉及 Java 版本、内存大小和其他依赖项的检查[^1]。 #### 安装 Hadoop 及其环境变量设置 完成基本准备工作之后，下载适合操作系统的 Hadoop 发行版并解压到指定目录。接着，在 `.bashrc` 或者其他 shell 初始化脚本中添加如下环境变量： ```shell export HADOOP_HOME=/path/to/hadoop export PATH=$PATH:$HADOOP_HOME/bin ``` 上述命令假设 `/path/to/hadoop` 是 Hadoop 解压缩后的根路径；实际使用时应替换为具体的安装位置。 #### 修改核心配置文件 主要修改三个 XML 文件来定制 HDFS 行为：`core-site.xml`, `hdfs-site.xml` 和 `mapred-site.xml`. 对于 `core-site.xml`: ```xml <configuration> <property> <name>fs.defaultFS</name> <value>hdfs://localhost:9000</value> </property> </configuration> ``` 此部分定义了默认文件系统的 URI 地址以及 NameNode 的监听端口。 针对 `hdfs-site.xml`: ```xml <configuration> <property> <name>dfs.replication</name> <value>3</value> </property> <property> <name>dfs.namenode.name.dir</name> <value>/app/nn/data</value> </property> <property> <name>dfs.datanode.data.dir</name> <value>/app/dn/data</value> </property> </configuration> ``` 这里设置了副本因子 (`dfs.replication`) 以及其他重要参数如 NameNode 和 DataNodes 上的数据存储路径。 最后是 `mapred-site.xml`: ```xml <configuration> <property> <name>mapreduce.framework.name</name> <value>yarn</value> </property> </configuration> ``` 这段配置指定了 MapReduce 应用程序运行框架的名字空间。 #### 启动服务 通过执行以下 Shell 脚本来启动所有必要的守护进程： ```shell sbin/start-dfs.sh sbin/start-yarn.sh ``` 这些指令将会依次开启 NameNode, SecondaryNameNode 和 DataNodes. #### 测试集群状态 一旦成功部署完毕，则可通过浏览器访问 http://master-node-ip:50070 来查看 Web UI 中展示出来的整个 HDFS 集群的状态信息。 以上即是在 Linux 下配置 HDFS 所需的主要步骤概述。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值