Hadoop基础教程：HDFS体系结构

作为Hadoop的核心技术之一，HDFS(Hadoop Distributed File System，Hadoop分布式文件系统)是分布式计算中数据存储管理的基础。它所具有的高容错、高可靠、高可扩展性、高吞吐率等特性为海量数据提供了不怕故障的存储，也为超大规模数据集(Large Data Set)的应用处理带来了很多便利。

提到HDFS，不得不说Google的GFS。正是Google发表了关于GFS的论文，才有了HDFS这个关于GFS的开源实现。

设计前提与目标

(1)硬件错误是常态而不是异常;(核心的设计目标—>HDFS被设计为运行在众多的普通硬件上，所以硬件故障是很正常的。因此，错误检测并快速恢复是HDFS核心的设计目标)

(2)流式数据访问;(HDFS更关注数据访问的高吞吐量)

(3)大规模数据集;(HDFS的典型文件大小大多都在GB甚至TB级别)

(4)简单一致性模型;(一次写入，多次读取的访问模式)

(5)移动计算比移动数据更为划算;(对于大文件来说，移动计算比移动数据的代价要低)

HDFS的体系结构

HDFS是一个主/从(Master/Slave)式的结构，如下图所示。

HDFS的基本架构

从最终用户的角度来看，它就像传统的文件系统一样，可以通过目录路径对文件执行CRUD(增删查改)操作。但由于分布式存储的性质，HDFS拥有一个NameNode和一些DataNodes。NameNode管理文件系统的元数据，DataNode存储实际的数据。客户端通过同NameNode和DataNode的交互访问文件系统→客户端联系NameNode以获取文件的元数据，而真正的I/O操作是直接和DataNode进行交互的。

下面我们再来看看HDFS的读操作和写操作的流程：

①读操作

HDFS的读操作

客户端要访问一个文件，首先，客户端从NameNode中获得组成该文件数据块位置列表，即知道数据块被存储在哪几个DataNode上;然后，客户端直接从DataNode上读取文件数据。在此过程中，NameNode不参与文件的传输。

②写操作

HDFS的写操作

客户端首先需要向NameNode发起写请求，NameNode会根据文件大小和文件块配置情况，返回给Client它所管理部分DataNode的信息。最后，Client(开发库)将文件划分为多个文件块，根据DataNode的地址信息，按顺序写入到每一个DataNode块中。

下面我们看看NameNode和DataNode扮演什么角色，有什么具体的作用：

(1)NameNode

NameNode的作用是管理文件目录结构，是管理数据节点的。NameNode维护两套数据：一套是文件目录与数据块之间的关系，另一套是数据块与节点间的关系。前一套是静态的，是存放在磁盘上的，通过fsimage和edits文件来维护;后一套数据时动态的，不持久化到磁盘，每当集群启动的时候，会自动建立这些信息。

(2)DataNode

毫无疑问，DataNode是HDFS中真正存储数据的。这里要提到一点，就是Block(数据块)。假设文件大小是100GB，从字节位置0开始，每64MB字节划分为一个Block，以此类推，可以划分出很多的Block。每个Block就是64MB(也可以自定义设置Block大小)。

(3)典型部署

HDFS的一个典型部署是在一个专门的机器上运行NameNode，集群中的其他机器各运行一个DataNode。(当然，也可以在运行NameNode的机器上同时运行DataNode，或者一个机器上运行多个DataNode)一个集群中只有一个NameNode(但是单NameNode存在单点问题，在Hadoop 2.x版本之后解决了这个问题)的设计大大简化了系统架构。