
云计算
cjd007
喜欢学习,听轻音乐,最近学习SAP,自己在搞Compiere,关注Flex
展开
-
Hadoop入门资料
很好很详细的入门资料 [url]http://hadoop.apache.org/common/docs/r0.18.2/cn/quickstart.html[/url] 有关Hadoop中文资料,可以参考Hadoop官方中文资料(由淘宝技术团队翻译)。 [url]http://hadoop.apache.org/common/docs/r0.20.2/cn/[/url]...原创 2010-10-18 09:43:57 · 97 阅读 · 0 评论 -
Hadoop必须知道的几个问题
1,master slaves文件只有 namenode secondnamenode jobtracker这3个机器需要知道,其他的datanode不需要知道,也就是说如果修改了这2个文件,那么只要同步以上提到的3个机器就可以了,而一般的开发测试环境,这3个机器是在同一个机器上。 2,需要的默认内存 datanode默认内存为2.8G namenode默认内存为3G secondname...原创 2012-04-12 09:02:12 · 112 阅读 · 0 评论 -
hadoop hbase的相关命令
[code="java"] //是否进入或者是否还在安全模式 hadoop dfsadmin -safemode get //输出 Safe mode is ON //namenode节点的启动和关闭 hadoop-daemon.sh stop namenode hadoop-daemon.sh start namenode //停止某个数据节点上的 HRegionse...原创 2012-03-03 14:07:26 · 96 阅读 · 0 评论 -
Hadoop环境部署成功(ubuntu+hadoop0.20.2+eclipse3.3.2)
经过一段时间的折腾,终于能在eclipse里面运行MR了。 主要是运行eclipse里面运行的用户必须是 hdfs里面的授权用户,否则报权限不足: permission deny.还有就是hdfs的路径要写对了,我自己的是: [code="java"] hdfs://localhost:9000/usr/local/hadoop/hadoop-dir/hadoop-root/tmp/cjd ...原创 2011-11-19 18:48:59 · 114 阅读 · 0 评论 -
把hadoop上多个文件合并然后copyt到本地
[url]http://www.hadoopor.com/thread-4288-1-1.html[/url] 这一个简单的命令就会把part-r-*所有的文件合并到a.txt,并且是copy到本地的。很方便 [code="java"] hadoop fs -cat /user/hadoop/part-r-* > a.txt [/code] 尤其对于M/R的结果文件下载查看。...原创 2012-06-05 09:04:20 · 582 阅读 · 0 评论 -
我的HBase之旅
最近在学hbase,看了好多资料,具体的参考: [url]http://blog.chinaunix.net/u3/102568/article_144792.html[/url] [url]http://blog.youkuaiyun.com/dajuezhao/category/724896.aspx[/url] [url]http://www.javabloger.com/article/apac...原创 2010-11-21 14:37:16 · 148 阅读 · 0 评论 -
hadoop 在redhat linux5 上部署成功(三机)
断断续续,折腾了一个礼拜,终于在出差的时候把这个hadoop部署成功了。 我的环境是 VMware + redhat linux5,一台namenode,一台dataqnode,配置的过程中也遇到不少麻烦,一会儿再一一列举。 后来又在slaves里面加了个datanode节点,也成功了。看来这段时间的不断尝试没有白费,接下来就要开始在window+cygwin+eclipse里面写分布式搜索引...原创 2010-11-07 09:44:40 · 197 阅读 · 0 评论 -
分布式监控系统 Ganglia
[url]http://ganglia.sourceforge.net/[/url]原创 2011-06-03 10:03:13 · 116 阅读 · 0 评论 -
第一个Mapreduce例子
经过几天的尝试,终于部署起来了hadoop运行环境, hadoop 0.20.2 cygwin 1.7 win xp eclipse 3.6 第一个例子,就是 hadoop自带的 wordcount. 运行的截图: [img]http://dl.iteye.com/upload/attachment/338272/f8e8beaa-faf2-3a2a-941f-d8620c587...原创 2010-10-27 21:00:31 · 155 阅读 · 0 评论 -
Hadoop1.0.0 eclipse 插件编译包
hadoop1.0.0没有eclipse 插件包,今晚自己编译了一个: [code="java"] check-contrib: init: [echo] contrib: eclipse-plugin init-contrib: ivy-download: [get] Getting: http://repo2.maven.org/maven2...原创 2012-04-23 00:51:16 · 120 阅读 · 0 评论