
Hadoop
Scojen
这个作者很懒,什么都没留下…
展开
-
hadoop2.4的datanode服务启动不了
虚拟机下两台机器一个master一个slave,hadoop启动后master原创 2014-08-19 11:23:37 · 486 阅读 · 0 评论 -
Hadoop-0.20.2公平调度器算法解析
1. 目的本文描述了hadoop中的公平调度的实现算法,公平调度器是由facebook贡献的,适合于多用户共享集群的环境的调度器,其吞吐率高于FIFO,论文参见参考资料[1]。本文分析的Hadoop版本是0.20.2,在新版本(0.21.0)中,公平调度算法已经有了改进与增强。本文组织结构如下:1)目的 2)公平调度介绍 3)公平调度算法分析 4)新版hadoop中公平调度转载 2014-09-01 11:39:24 · 559 阅读 · 0 评论 -
Windows环境下eclipse提交到远程wordcount程序报错 at org.apache.hadoop.util.Shell.runCommand(Shell.java:545)
远程hadoop2.7,本地的windows7程序报错如下:2015-09-28 22:04:21,423 WARN [main] util.NativeCodeLoader (NativeCodeLoader.java:(62)) - Unable to load native-hadoop library for your platform... using builtin-java原创 2015-10-23 10:00:25 · 5928 阅读 · 1 评论 -
hadoop2.*能力调度器capacity-scheduler
capacity-scheduler能力调度器1. 添加用户组dwgroup(集群中的namenode主备机器都要做以下操作)groupadd dwgroup //添加用户组useradd -G dwgroup 用户//将用户加到dwgroup用户组里 2. yarn-site.xml新增配置yarn.resourcemanager原创 2015-10-28 15:12:54 · 598 阅读 · 0 评论 -
eclipse远程提交scala到spark集群问题
欢迎使用Markdown编辑器写博客本Markdown编辑器使用StackEdit修改而来,用它写博客,将会带来全新的体验哦:Markdown和扩展Markdown简洁的语法代码块高亮图片链接和图片上传LaTex数学公式UML序列图和流程图离线写博客导入导出Markdown文件丰富的快捷键快捷键加粗 Ctrl + B 斜体 Ctrl + I 引用 Ctrl原创 2016-03-29 17:06:51 · 2298 阅读 · 0 评论