HDFS 入门和基本操作

1、HDFS 是做什么的

　　Hadoop实现了一个分布式文件系统（Hadoop Distributed File System），简称HDFS，hdfs是分布式计算中数据存储管理的基础，是基于流数据模式访问和处理超大文件的需求而开发的，可以运行于廉价的商用服务器上。它所具有的高容错、高可靠性、高可扩展性、高获得性、高吞吐率等特征为海量数据提供了不怕故障的存储，为超大数据集（Large Data Set）的应用处理带来了很多便利。

 

2、为什么选择 HDFS 存储数据

　 之所以选择 HDFS 存储数据，因为 HDFS 具有以下优点：

       1、高容错性

​ 数据自动保存多个副本。它通过增加副本的形式，提高容错性。

​ 某一个副本丢失以后，它可以自动恢复，这是由 HDFS 内部机制实现的，我们不必关心。

       2、适合批处理

​ 它是通过移动计算而不是移动数据。

​ 它会把数据位置暴露给计算框架。

       3、适合大数据处理

处理数据达到 GB、TB、甚至PB级别的数据。

​ 能够处理百万规模以上的文件数量，数量相当之大。

​ 能够处理10K节点的规模。

       4、流式文件访问

​ 一次写入，多次读取。文件一旦写入不能修改，只能追加。

​ 它能保证数据的一致性。

　　5、可构建在廉价机器上

​ 它通过多副本机制，提高可靠性。

​ 它提供了容错和恢复机制。比如某一个副本丢失，可以通过其它副本来恢复。