
HDFS
文章平均质量分 84
匿名啊啊啊
这个作者很懒,什么都没留下…
展开
-
HDFS 集群的机架感知
HDFS 集群的机架感知目录1、背景 ............................................................................................................................................12、配置机架感知...................................原创 2018-03-25 21:36:31 · 520 阅读 · 0 评论 -
HDFS读写文件流程
1、HDFS写流程:客户端要向HDFS写数据,首先要跟namenode通信以确认可以写文件并获得接收文件block的datanode,然后,客户端按顺序将文件逐个block传递给相应datanode,并由接收到block的datanode负责向其他datanode复制block的副本如图:写详细步骤:1、根namenode通信请求上传文件,namenode检查目标文件是否已存在,父目录是否存在 2...原创 2018-04-15 15:10:14 · 410 阅读 · 0 评论 -
Hadoop学习(三) HDFS 基础使用
目录1、HDFS 前言2、HDFS 相关概念和特性 2.1、HDFS 设计思路 2.2、HDFS 架构 2.3、概念和特性 3、HDFS 优缺点 3.1、HDFS 优点 3.2、HDFS 缺点4、HDFS 的 shell(命令行客户端)操作5、HDFS 的 Java API 操作 5.1、利用 eclipse 查看 hdfs 集群的文件信息 5.2、...原创 2018-04-05 22:22:09 · 1832 阅读 · 0 评论 -
Hadoop学习(二)自己编译Hadoop安装包
CentOS-6.7 编译 hadoop-2.6.5(只需输入命令即可)目录1、阅读编译文档2、准备编译环境3、安装 gcc4、安装 gcc-c++5、安装 make6、安装 maven(必须)7、安装 jdk(必须)8、安装 ant(重要)9、安装 findbugs(可选,最好装)10、安装 cmake(重要)11、安装 protobuf(重要)12、安装 Snappy 13、编译 hadoop...原创 2018-04-05 17:31:14 · 2693 阅读 · 0 评论 -
Hadoop学习(一)搭建Hadoop的分布式集群
搭建Hadoop的分布式集群Hadoop集群搭建的准备操作:1、准备四台服务器 四台服务器的主机名分别是:potter2、potter3、potter4、potter5。 对以上四台服务器需要做一下准备操作,这些准备都是为了将来搭建Hadoop集群做准备的。 (1)修改各个服务器的主机名。 第一步:先查看主机名 第二步:永久修改主机名 ...原创 2018-04-05 15:17:25 · 269 阅读 · 0 评论 -
在HDFS上删除某个路径下特定类型的文件,比如class类型文件,比如txt类型文件
一、先获取连接:public class Utils { public static FileSystem HDFS() throws Exception{ Configuration conf = new Configuration(); conf.set("fs.defaultFS","hdfs://potter2:9000"); ...原创 2018-04-05 22:29:21 · 1363 阅读 · 0 评论 -
删除HDFS集群中的所有空文件和空目录
1、连接HDFS:package api;import org.apache.hadoop.conf.Configuration;import org.apache.hadoop.fs.FileSystem;public class Utils { public static FileSystem HDFS() throws Exception{ ...原创 2018-04-05 22:30:42 · 4053 阅读 · 0 评论 -
HDFS使用流的方式上传下载
主代码:package api;import java.io.FileInputStream;import java.io.InputStream;import java.io.OutputStream;import org.apache.hadoop.conf.Configuration;import org.apache.hadoop.fs.FileSystem;import...原创 2018-04-05 22:31:32 · 1874 阅读 · 0 评论 -
HDFS手动拷贝某个特定的数据块(比如某个文件的第二个数据块)
主代码:package api;import java.io.File;import java.io.FileOutputStream;import org.apache.hadoop.conf.Configuration;import org.apache.hadoop.fs.BlockLocation;import org.apache.hadoop.fs.FSDataInput...原创 2018-04-05 22:32:19 · 795 阅读 · 0 评论