
HDFS
不清不慎
热爱编程,热爱生活。
展开
-
Hadoop2.x环境搭建之搭建伪分布模式以及运行wordcount案例【HDFS上的数据】
一、部署运行HDFS文件系统1.在hadoop的安装目录下有core-site.xml和hdfs-site.xml这两个文件,下面分别配置这两个文件: core-site.xml:<property> <name>fs.defaultFS</name> <value>hdfs://hostname/ip:80...原创 2018-03-23 22:58:03 · 714 阅读 · 0 评论 -
HDFS HA【QJM】集群搭建以及使用Zookeeper集群进行故障转移
一、HDFS HA概述在hadoop2.x之前,hadoop集群只有一个namenode,存在单点故障【SPOF】,因此在一个namenode宕机或者该namenode所在的机器需要升级进行处理的时候,就需要停掉服务器,所有的服务都不能工作。因此,在hadoop2.x之后就提出了HDFS HA【High Availability】,HDFS HA通过配置Active/Standby两个name...原创 2018-04-01 17:23:39 · 682 阅读 · 0 评论 -
HDFS中的Java API常用操作
Hadoop整合了众多的文件系统,在其中有一个综合性的文件系统抽象,它提供了文件系统实现的各类接口,HDFS只是这个抽象文件系统的一个实例。提供了一个高层的文件系统抽象类org.apache.hadoop.FileSystem。下面我们主要围绕这个抽象类讲解一下常见的文件操作。Hadoop中关于文件操作基本上全部是在“org.apache.hadoop.fs”包中,这些API能够支持的操作包含...原创 2018-03-28 20:11:09 · 1359 阅读 · 0 评论