
hadoop
leaf1222
需要不断学习
展开
-
eclipse编译hadoop源代码
我编译的是hadoop0.21版本的,即旧的hadoop版本,新版本的hadoop源代码我还没有尝试编译。1.下载hadoop源代码: 通过SVN下载源代码 地址:http://svn.apache.org/repos/asf/hadoop/common/trunk 在其中找到需要的版本下载2. 需要的编译环境: ant,cygwin必须安装好3. 编译h转载 2012-12-06 22:03:52 · 1125 阅读 · 1 评论 -
公平调度器
Fair Scheduler是由Facebook贡献给Hadoop社区的一种task调度策略。Facebook推出它的目的是在生产环境中替换毫无特点的MapReduce默认Scheduler。 Fair Scheduler的诞生源于加州大学Berkeley分校、Facebook与Yahoo的研究人员于2009年4月底发表的论文《Job Scheduling for Mul转载 2012-12-24 19:21:13 · 731 阅读 · 0 评论 -
hadoop调度器如何编写
http://blog.youkuaiyun.com/xhh198781/article/details/7046389转载 2013-01-09 15:58:39 · 696 阅读 · 0 评论 -
hadoop自带的API文件
hadoop的安装包中自带着其api的文件,在阅读hadoop源码时使用比较的方便。将安装包解压缩后,在其路径是在;hadoop-0.21.0\hadoop-0.21.0\common\docs\api中的 index.html 这个是common中相关的api文件。mapred和hdfs的路径相应为hadoop-0.21.0\hadoop-0.21.0\mapred\docs\a原创 2013-01-29 10:15:25 · 969 阅读 · 0 评论 -
编写hadoop调度器用到的一些jar包
写hadoop的调度器,已经一些运行例子时,必然会用到hadoop自己的包和一些相关的jar包。其实这些包在hadoop的安装文件中就有,还有安装文件中的lib文件夹中也有用到的一些jar包。今天多亏大飞哥的提醒,要不都忘了,记下来,免得以后又忘了原创 2013-02-26 11:25:29 · 795 阅读 · 0 评论 -
hadoop如何创建多用户
HDFS本身没有提供用户名、用户组的创建,在客户端调用hadoop 的文件操作命令时,hadoop 识别出执行命令所在进程的linux系统的用户名和用户组,然后使用这个用户名和组来检查文件权限。 用户名=linux命令中的`whoami`,而组名等于`bash -c groups `。启动hadoop hdfs系统的用户即为超级用户,可以进行任意的操作。 如想让leaf用户也可执行ha原创 2013-03-25 20:27:45 · 7626 阅读 · 1 评论