
HDFS
文章平均质量分 69
拾荒路上的开拓者
可能出错的地方,一定会出错
展开
-
NameNode和Secondary NameNode工作机制
1 工作机制第一阶段:NameNode启动第一次启动NameNode格式化后,创建Fsimage文件和Edits日志;如果不是第一次启动,直接加载Fsimage和Edits文件到内存 客户端对元数据进行增删改的请求 NameNode记录操作日志,更新滚动日志 NameNode在内存中对数据进行增删改第二阶段:Secondary NameNode工作SecondaryNameNode询问NameNode是否需要checkpoint,直接带回NameNode的询问结果 Secon.原创 2022-03-05 12:18:37 · 459 阅读 · 1 评论 -
NameNode的HA机制
1 HA机制NameNode维护了HDFS所有的元数据信息,当该节点所在服务器宕机或服务不可用时,整个HDFS都将处于不可用状态,那么怎么才能避免这个NameNode节点宕机呢?一个容易想到的解决方案是部署两台NameNode节点,形成主备模式(active/standby模式),这样一旦active节点宕机,standby节点立即切换到active模式。事实上HA机制就是采取的这种方案。但实现该机制,需要解决以下问题:1)为什么选择主备模式,而不是主主模式(active/active模式)?也即让原创 2022-03-05 11:45:53 · 3024 阅读 · 0 评论 -
HDFS读、写数据流程
1 读数据客户端通过Distributed FileSystem向NameNode请求下载文件,NameNode通过查询元数据,找到文件块所在的DataNode地址 挑选一台DataNode(就近原则,然后随机)服务器,请求读取数据 DataNode开始传输数据给客户端(从磁盘里面读取数据输入流,以Packet为单位来做校验) 客户端以Packet为单位接收,先在本地缓存,然后写入目标文件2 写数据客户端通过DistributedFileSystem模块向NameNode请求上传..原创 2022-03-05 10:40:36 · 211 阅读 · 0 评论 -
HDFS集群安全模式
1 NameNode启动NameNode启动时,首先将镜像文件(Fimage)载入内存,并执行编辑日志(Edits)中的各项操作。一旦在内存中成功建立文件系统元数据的映像,则创建一个新的Fimage文件和一个空的编辑日志。此时,NameNode开始监听DataNode请求。这个过期期间,NameNode一直运行在安全模式,即NameNode的文件系统对于客户端来说是只读的。2 DataNode启动系统中的数据块的位置并不是由NameNode维护的,而是以块列表的形式存储在DataNode中。在系原创 2022-03-05 10:24:42 · 252 阅读 · 0 评论