
大数据分布式文件系统hadoop总结
mn_kw
喜欢研究大数据组件技术,深入内核,后续会更新工作级别的解决方案
展开
-
hadoop之回收站机制及配额机制
Trash(回收站)hadoop文件系统有一个回收站的机制,删除的文件呢并没有正在的删除,而是移动到了回收站文件夹,在core-site.xml配置文件中由fs.trash.interval配置属性来设置文件在回收站的驻留时间,是以分钟计算的,这个配置默认的是0,表示禁用回收站机制我的系统中配置是360分钟和很多的操作系统一样,hadoop的删除机制是用户级别的特征,意味着仅仅原创 2017-05-20 20:31:09 · 949 阅读 · 0 评论 -
hadoop之文件系统HA搭建的配置细节
[hdfs-site.xml]1. 配置名称服务dfs.nameservices 名称服务的逻辑名 dfs.nameservices aa 2. 配置nameservice中的每个namenodedfs.ha.namenodes.[nameservice ID] dfs.h原创 2017-05-21 19:09:02 · 456 阅读 · 0 评论 -
hadoop之文件系统HA搭建的部署细节
1. 首先配置zk为完全分布式a. 分发zk的安装包到各个节点b. 配置环境变量c. 修改zoo.cfg(每个zk服务器的该文件配置均相同(myid文件不同))server.1=v100:2888:3888server.2=v200:2888:3888server.3=v300:2888:3888d. 配置每个z原创 2017-05-22 17:41:50 · 428 阅读 · 0 评论 -
Number of Under-Replicated Blocks问题
跑了一个mapreduce发现集群上出现了7个Under-Replicated Blocks,在web页面上能看到,在主节点上执行:$ bin/hadoop fsck -blocks删除导致问题的文件之后就好了。导致这个问题可能有俩个原因1. 可能我们默认得block副本因子是3,但是我们的datanode节点只有俩2个或者是1个这个时候就会出现这个有报错2. 我们mapper...原创 2019-05-09 09:13:30 · 4074 阅读 · 0 评论 -
Hadoop web页面的授权设定
在core-siet.xml配置文件中增加如下三行<property> <name>hadoop.http.filter.initializers</name> <value>org.apache.hadoop.security.AuthenticationFilterIniti...原创 2019-05-28 09:58:06 · 2284 阅读 · 0 评论