
hadoop
文章平均质量分 60
haoran_gao
这个作者很懒,什么都没留下…
展开
-
Hadoop-2.5.0源码编译-记录
1.概述夜深了,这是本人的第一篇技术博客,写文章不是本人的长处,也会经常去问度娘,如果本文中记录的步骤侵犯了某些博主的权利,请联系我。本文只是记录了自己的编译过程。 为什么要编译hadoop源码呢?网上各种编译好的hadoop,拿来用就好了吗!因为在用别人hadoop时,别人的编译环境跟我们的不同,在使用过程中会有些报警。报警而已嘛,可我老师是个严厉的人,让我们自己编译一下。我是个遵守纪律的好学生原创 2015-11-07 23:52:34 · 792 阅读 · 0 评论 -
Hadoop的转载
http://www.forbes.com/sites/danwoods/2011/11/03/explaining-hadoop-to-your-ceo/2/#3c1b2c0c4b54http://blog.youkuaiyun.com/huangyanlong/article/details/39718485转载 2016-02-26 11:19:16 · 324 阅读 · 0 评论 -
hadoop books
Related Books Hadoop in Practice Hadoop in Practice (2014) by Alex Holmes Pro Apache Hadoop Pro Apache Hadoop (2014) by Jason Venner, Sameer Wadkar, Madhu Siddalingaiah Hadoop For Dummies Hado原创 2015-12-21 18:57:23 · 547 阅读 · 0 评论 -
hadoop文件系统的目录结构及datanode不能启动
在做hadoop测试的时候,由于误操作,datanode不能启动了。查询日志也没有错误提示。我们先来看看hadoop文件的元文件目录结构. ├── data │?? ├── current │?? │?? ├── BP-1808523652-192.168.237.128-1451363010425 │?? │?? │?? ├── current │?? │?? │?? │?? ├── f原创 2016-01-01 05:30:11 · 771 阅读 · 0 评论 -
jobserver和日志聚集aggregation
jobserver的配置在mapred-site.xml中<property> <name>mapreduce.jobhistory.address</name> <value>***:10020</value></property><property> <name>mapreduce.jobhistory.webapp.address</name> <value>***:19888原创 2015-11-17 17:12:26 · 438 阅读 · 0 评论 -
hadoop配置文件及常用配置
在安装完hadoop后,配置文件保存在etc/hadoop/下,通常需要我们做修改。 - core-site.xml 全局配置 - hadoop-site.xml - yarn-site.xml - mapred-site.xml 可以参看hadoop文档下的默认配置修改 常用的修改如下:core-site.xmlnamenode RPC 端口,域名设置(..*=hostname原创 2015-11-12 06:52:05 · 799 阅读 · 0 评论 -
eclipse在Linux下的安装配置maven
这两天在Linux下安装eclipse并配置maven时,遇到了些问题,记录一下安装的过程和问题。eclipse安装将eclipse-jee-kepler-SR1-linux-gtk-x86_64.tar.gz解压到安装目录。 tar -zxvf eclipse-jee-kepler-SR1-linux-gtk-x86_64.tar.gz -c / 用命令./eclipse就可以在linux下启原创 2015-11-13 14:01:19 · 3886 阅读 · 0 评论 -
存储在HDFS上的文件,存储机制及数据安全性如何保证。
HDFS是一种分布式存储系统, 它把大文件分块存储在网络的机器中,它采用主从结构(master/slave). 通过一些后台进程来管理文件的存储:Namenode, Datanode,SecondaryNamenode.NameNode结构图如下: NameNode维护着文件系统树(filesystem tree)以及文件树中所有的文件和文件夹的元数据(metadata)。管理这些信息的文件原创 2015-11-12 14:34:45 · 7965 阅读 · 0 评论 -
转 hadoop 参数配置
http://my.oschina.net/u/1378204/blog/471338?p=1转载 2015-11-12 15:16:13 · 323 阅读 · 0 评论 -
日志分析转载
海量Web日志分析 用Hadoop提取KPI统计指标 http://blog.fens.me/hadoop-mapreduce-log-kpi/http://my.oschina.net/leejun2005/blog/292709http://blog.youkuaiyun.com/clever101/article/details/16969943http://zhidao.baidu.com/link?转载 2016-02-26 11:35:13 · 253 阅读 · 0 评论