
hadoop
陆潇
毕业于广工,超12年java工作经验,目前致力于大数据,AI和区块链方向
展开
-
yarn 的nodemanager 中间数据存储
yarn.nodemanager.local-dirs: 这个目录是nodemanager上的作业中间数据存放路径,默认是 10G大小 ; yarn.nodemanager.local-dirs,我们一般配置多个目录 ,几个磁盘就几个目录 <property> <name>yarn.nodemanager.localizer.cache.target-si...原创 2020-03-24 17:09:29 · 1519 阅读 · 0 评论 -
HDFS Federation(联邦)
1.简介 hdfs federation即hdfs的联邦,可以简单理解为多个hdfs集群聚合到一起,更准确的理解是有多个namenode节点的hdfs集群 hadoop1.x的hdfs架构 主要由namespace(命名空间)和Block Storage(块的存储)两层组成 1.1.namespace 由目录、文件、块组成。 支持创建、删除、修改、列举命名空间相关系统的操作 1.2.Block ...转载 2020-03-18 14:56:37 · 756 阅读 · 0 评论