HDFS(分布式文件存储系统)

本文详细介绍HDFS命令行客户端的常用操作,包括集群启动与停止、文件上传下载、文件夹创建、文件移动与删除等,并指导如何通过代码进行HDFS文件操作,涉及配置设置、客户端对象获取及具体方法调用。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

一 、HDFS命令行客户端的常用操作命令

(1)start-dfs.sh :自动启动整个集群

         stop-dfs.sh :自动停止整个集群

(2)上传文件到hdfs中:    hadoop fs -put /本地文件  /HDFS路径

(3)下载文件到客户端本地磁盘:   hadoop fs -get /hdfs中的路径   /本地磁盘目录

(4)在hdfs中创建文件夹:    hadoop fs -mkdir  -p /aaa/xxx

(5)移动hdfs中的文件(更名):    hadoop fs -mv /hdfs的路径1  /hdfs的另一个路径2

(6)删除hdfs中的文件或文件夹:     hadoop fs -rm -r /aaa

(7)查看hdfs中的文本文件内容:  hadoop fs -cat /demo.txt              hadoop fs -tail -f /demo.txt

二、开发代码

(1)将hdfs客户端开发所需的jar导入工程(jar包可在hadoop安装包中找到common/hdfs)

(2)要对hdfs中的文件进行操作,代码中首先需要获得一个hdfs的客户端对象

         Configuration conf = new Configuration();

        //指定本客户端上传到hdfs时需要保存的副本数为2
        conf.set("dfs.replication", "2");
        //指定本客户端上传文件到hdfs时切块的规格大小:128m
        conf.set("dfs.blocksize", "128m");

         FileSystem fs = FileSystem.get(new URI("hdfs://hdp-01:9000"),conf,"root");

(3)利用fs对象的方法进行文件操作

上传文件—— fs.copyFromLocalFile(new Path("本地路径"),new Path("hdfs的路径"));

下载文件——fs.copyToLocalFile(new Path("hdfs的路径"),new Path("本地路径"));

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值