Linux下HDFS简单的shell操作

Linux修改hadoop配置文件及启动hadoop集群详细步骤 pwd。 阅读详情

目前实现Linux环境下通过shell命令来实现hdfs文件的上传与下载

1.启动Hadoop

start-all.sh

2.上传文件

假设将/root目录中的jdk安装包上传到hdfs的根目录下:

hadoop fs -put jdk-7u76-linux-x64.tar.gz hdfs://master:9000/


执行完以后从网页打开http://192.168.1.111:50070/ 的文件系统刷新一下,可以看到新加进去的文件的信息


3.下载文件

点击上传的文件,则直接可以下载到Windows系统中


hdfs的存储路径与本地文件系统无关,测试如下:

 删除本地的文件:rm -rf jdk-7u76-linux-x64.tar.gz


再从hdfs中下载下来

 hadoop fs -get hdfs://master:9000/jdk-7u76-linux-x64.tar.gz


3.查看文件

hadoop fs -ls /


4.hdfs中复制文件到另一个文件夹下

hadoop fs -cp /jdk-7u76-linux-x64.tar.gz /tmp/


5.查看空间大小

hadoop fs -df -h /


6.查看文件大小

hadoop fs -du -h /


7.创建删除文件夹或目录

 创建:hadoop fs -mkdir /aa

 删除:hadoop fs -rm -r /aa





hdfs集群的shell操作 上传文件:hdfs dfs -put [-f] [-p] 下载:hdfs dfs -get [-f] [-p] ... 所属用户,用户组:hdfs dfs -chown [-R] 所属用户:所属用户组 文件路径。复制:hdfs dfs -cp [-f] ... 追加: hdfs dfs -appendToFile 移动:hdfs dfs -mv 阅读详情

相关推荐

linux切换到hdfs目录下,Linux实验:hdfs shell基本命令操作(二)

【实验目的】1)熟练hdfs shell命令操作2)理解hdfs shell和linux shell命令【实验原理】安装好hadoop环境之后,可以执行hdfs shell命令对hdfs 的空间进行操作。我们通过命令行和HDFS打交道,进一步增加对HDFS的认识,HDFS命令行接口是一种最直接,也比较简单的一种方式。调用文件系统(FS)Shell命令应使用bin/hadoop fs 的形式。也可以...

weixin_30444573的博客 1798

HDFS的shell操作

HDFS的shell操作

qq_54542910的博客 1833

【从零开始学Skynet】基础篇(一):Skynet环境搭建

Skynet运行于Linux操作系统,我们可以在自己的电脑上搭建虚拟机系统,也可以购买阿里云、腾讯云服务器,笔者这个系列的所有代码都是在Ubuntu16.04版本的虚拟机系统下运行编辑。

我是一条寻水的鱼 3167

HDFS命令操作

HDFS命令操作 实验内容 在上述前提条件下,这个实验学习HDFS其它未遇到过的命令。 实验步骤 1.点击桌面的"命令行终端",打开新的命令行窗口 2.启动HDFS 启动HDFS,在命令行窗口输入下面的命令: /apps/hadoop/sbin/start-dfs.sh 运行后显示如下,根据日志显示,分别启动了NameNode、DataNode、Secondary NameNode: dolphin@tools:~$ /apps/hadoop/sbin/start-dfs.sh Starting name

shenhao-stu的博客 3027

数字IC后端面试题目汇总含解析,ICer上岸必备!

今天IC修真院为大家带来了数字IC后端的面试题目,希望大家能够用得上。

coachip的博客 2447

从二极管到CMOS:手把手教你搭建数字电路中的基础门电路(附原理图)

本文详细介绍了数字电路中基础门电路的搭建方法,从二极管门电路到现代CMOS门电路的设计与实现。通过原理图解析和实战案例,帮助读者掌握数字电路设计的核心知识,包括电平实现、门电路工作原理及实际调试技巧,适合电子技术爱好者和初学者学习参考。

weixin_29252171的博客 320

linux怎么查看hdfs启动命令,Linux实验:hdfs shell基本命令操作(一)

【实验目的】1)熟练hdfs shell命令操作2)理解hdfs shell和linux shell命令【实验原理】安装好hadoop环境之后,可以执行hdfs shell命令对hdfs 的空间进行操作。我们通过命令行和HDFS打交道,进一步增加对HDFS的认识,HDFS命令行接口是一种最直接,也比较简单的一种方式。调用文件系统(FS)Shell命令应使用bin/hadoop fs 的形式。也可以...

weixin_35019679的博客 5130

STC8H单片机ADC实战:从读取电位器到串口绘图,12位精度玩起来

本文详细介绍了STC8H单片机的ADC功能实战应用,从读取电位器到串口绘图,展示了12位精度的实现方法。通过硬件连接、代码配置、串口数据传输及高级优化技巧,帮助开发者快速掌握ADC模块的使用,适用于各种传感器数据采集和信号处理场景。

weixin_28278377的博客 343

HDFS操作命令

命令

xyzzzH的博客 811

华为Ascend_toolkit在x86ubuntu安装失败报错。[WARNING] driver package is not installed. If you install in docker

这个报错发生在交叉编译配置Ascend_toolkit环境时,安装Ascend_toolkit安装包的时候发生。[Y/N]Y。

anananajiushiwo的博客 1018

数据库系统工程师软考备战:第三篇 - SQL语言深入解析与应用

​​创建表​​​修改表​​​删除表​。

Programming Talk 122

Linux中HDFS简单的shell操作

实现Linux中实现HDFS中的基本操作   首先我们需要输入命令启动Hadoop start-dfs.sh   1. 创建文件夹或目录 我们创建一个aa文件夹,并查看所有文件 创建:hdfs dfs -mkdir /aa 删除:hdfs dfs -rm -r /aa   备注:还有一种方法是 hdfs dfs -rmr /aa  这种方法也能删除但是会出来一个提示不推荐使用, ...

Swt_BigData的博客 1427

【Altium Designer】Off grid pin解决方法

​今天我画完原理图编译时,出现了太多的黄色(出现warning警告提示)Off grid pin警告,这个警告并不是原理图电气连接出问题了,而是元器件或器件PIN脚没有和栅格对齐造成的原因。再编译还是出现这个警告。 最后经过不断翻阅网上经验和实践,才最终解决,本经验详细记录了解决该警告的有效方法。 解决方案:以下是问题解决步骤... ​

夜半少年的博客 7547

云计算实验 HDFS编程

【实验作业1】自己动手实现HDFS Shell 基于已经学习到的Hadoop API编程知识,自己动手实现一个简单的HDFS Shell程序,程序名称为HShell,要求能够支持以下功能: 1.使用HShell -cp 本地路径 HDFS路径,将文件从Linux本地文件系统拷贝到HDFS指定路径上。 2.使用HShell -rm 路径删除文件 3.使用HShell -rm -r 路径删除目录 4.使用HShell -cp -r 本地目录路径 HDFS路径,将目录从Linux本地拷贝到HDFS指定路径上。 5

wow_awsl_qwq的博客 5872

3D医学影像开发入门<一>:VS2019+DCMTK3.6.8编译及环境配置

3D医学影像开发入门:VS2019+DCMTK3.6.8编译及环境配置

欧特GO 1306

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

Day3.Hadoop学习笔记1

零、概述 一、概述 Hadoop衍生自Nutch(搜索引擎和web爬虫),面临的问题:海量数据存储和计算 Big Data大数据,谈的不仅仅是数据量,其实包含了数据量(Volume)、时效性(Velocity)、多样性(Variety)、可疑性(Veracity) Hadoop是一个开源存储和计算框架,HDFS大规模数据存储服务,MapReduce实现了对海量数据的并行处理和分析。 ...

大竹薙子与豆子 的个人博客 403

华为的C语言编程规范.pdf

华为技术有限公司内部技术规范。本规范制定了编写C语言程序的基本原则、规则和建议。从代码的清晰、简洁、可测试、安全、程序效率、可移植各个方面对C语言编程作出了具体指导。

hadoop集群启动脚本

在/root/bin目录下创建脚本 vim hdp.sh 添加如下内容 #!/bin/bash if [ $# -lt 1 ] then echo "No Args Input..." exit ; fi case $1 in "start") echo " =================== 启动 hadoop集群 ===================" echo " --------------- 启动 hdfs ---------------"

子清的博客 2322

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

java 1.7支持spark吗,Spark1.0.0伪分布安装指南

一、下载须知软件准备:spark-1.0.0-bin-hadoop1.tgz 下载地址:spark1.0.0scala-2.10.4.tgz 下载下载:Scala 2.10.4hadoop-1.2.1-bin.tar.gz 下载地址:hadoop-1.2.1-bin.tar.gzjdk-7u60-linux-i586.tar.gz 下载地址:去官网下载就行,这个1.7.x都行二、...

weixin_33739574的博客 212

HDFS的常见Shell操作

HDFS Shell类似于Linux操作系统中的Shell,都是一种命令语言,可以完成对HDFS上文件和目录的一系列操作。HDFS Shell的语法格式如下。OPTIONS:可选,用来调试Hadoop。SUBCOMMAND:表示HDFS Shell的子命令,用于操作HDFS。SUBCOMMAND OPTIONS:表示HDFS Shell子命令的选项。

Supplant的博客 1540

HDFS02 HDFS的Shell操作

HDFS的Shell操作(开发重点) 文章目录HDFS的Shell操作(开发重点)基本语法常用命令准备工作上传-moveFromLocal 剪切-copyFromLocal 拷贝-put 拷贝 (常用)-appendToFile 追加下载-copyToLocal 下载-get 下载HDFS直接操作-ls 显示目录信息-cat 显示文件内容-chgrp/-chmod/-chown/ 修改文件所属权限-mkdir 创建路径-cp HDFS中拷贝-mv 在HDFS目录中移动文件-tail 显示文件末尾的数据-rm

好好学习天天向上 1488

Linux系统HDFS操作常用Shell命令

HDFS支持很多Shell命令,例如hadoop fs和hdfs dfs都是HDFS最常用的Shell命令,两者功能和用法相同,都可以查看HDFS文件系统的目录结构、上传和下载数据、创建文件等。 在使用HDFS的Shell命令时最好配置一下PATH变量,因为每次输入命令都带上路径着实很麻烦,如何PATH变量请参照:Linux系统Hadoop伪分布式模式配置第九条。 因为hadoop fs和hdfs...

stepondust 的课堂 1189

HDFS常见的Shell操作

HDFS常见的Shell操作

优快云2022博客之星Top39;华为云博主7&,优快云、稀土掘金、微信公众号、阿里云开发者社区、腾讯云社区、博客园、知乎、51CTO同名博主WHYBIGDATA; 1410

Linux(Ubuntu)中HDFS的操作(Shell)

启动Hadoop --选择hadoop的文件夹下(本机的hadoop文件夹) cd hadoop/sbin ./start-all.sh 调用文件系统(FS)Shell命令为:hadoop fs <args>形式 检查Hadoop 相关的进程是否启动 jps 在hadoop文件下创建一个test文件夹 hadoop fs -mkdir /test 在test文件夹中创建一个...

kan_fearless的博客 4049

【Hadoop】【hdfs】【大数据技术基础】作业一 HDFS操作常用Shell命令

Hadoop支持很多Shell命令,比如hadoop fs、hadoop dfs和hdfs dfs都是HDFS最常用的Shell命令,用来查看。这三个命令既有联系有又区别:hadoop fs:适用于任何不同的文件系统,比如本地文件系统和HDFS文件系统;hadoop dfs:只能适用于HDFS文件系统;hdfs dfs:跟hadoop dfs命令的作用一样,也只能适用于HDFS文件系统。在本教程中,统一使用hdfs dfs命令对HDFS进行操作。

Kika写代码的博客 1113

linux文件复制到hdfs命令,HDFS的shell操作

HDFS 提供 shell 命令行客户端,使用方法如下:hdfshadoop fs 还有以下的命令行操作:hadoop fs-help功能:输出这个命令参数手册示例:hadoop fs -help ls-ls功能:显示目录信息示例: hadoop fs -ls hdfs://bigdata02:9000/备注:这些参数中,所有的 hdfs 路径都可以简写成 hadoop fs -ls / 等同上条...

weixin_35652867的博客 1922
上一篇: Hadoop完全分布式环境搭建(一)——Linux系统安装及JDK安装
下一篇: Hadoop完全分布式环境搭建(二)—— Hadoop安装及配置
Source_00
博客等级 码龄11年 9粉丝 31原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值