
HDFS
文章平均质量分 91
easonwx
这个作者很懒,什么都没留下…
展开
-
文件系统DEntry Cache设计调研
是否需要多客户端强一致,如果需要强一致选择HDFS全缓存,不能满足大量元数据的诉求。选择HopsFS,Cache只作为辅助手段,将数据库的串行访问转换为并行访问,减少时延。选择类似CephFS CAP召回的办法通知客户端更新缓存,逻辑复杂很难实现。缓存(Pid, Name)->(InodeId)还是(Path)->(InodeId)选择缓存(Pid, Name)->(InodeId),在某些情况下可能还是会大量访问数据库。原创 2023-09-15 11:55:28 · 391 阅读 · 0 评论 -
百度CFS
本文介绍了百度智能云文件存储 CFS 的元数据系统的核心设计,对⻓期困扰文件系统元数据领域的 POSIX 兼容性和高扩展性(特别是写扩展性)难以兼顾的问题,进行了解答。这是一个大规模分布式文件系统能否扩展到千亿级别文件数,同时保持高性能稳定性的一个关键问题。分离式元数据架构是近年来文件系统元数据领域的发展趋势,业界有潜力存储千亿文件的系统均是基于这种架构实现的。这类架构采用类似 “存算分离” 的思想,将元数据服务分为两层,分别是负责存储数据的数据库层,和偏计算逻辑、负责实现文件系统语义的元数据代理层。转载 2023-07-19 17:22:40 · 696 阅读 · 0 评论 -
HDFS:架构详解
HDFS架构解读。转载 2023-02-07 21:36:38 · 1383 阅读 · 0 评论