
Hadoop学习
悠悠-我心
水不撩不知深浅,人不拼不知输赢。
展开
-
Zookeeper配置与详解
zookeeper的默认配置文件为zookeeper/conf/zoo_sample.cfg,需要将其修改为zoo.cfg。其中各配置项的含义,解释如下:1.tickTime:CS通信心跳时间 Zookeeper 服务器之间或客户端与服务器之间维持心跳的时间间隔,也就是每个 tickTime 时间就会发送一个心跳。tickTime以毫秒为单位。 tickTime=2000 2.initLimi原创 2015-12-02 11:18:20 · 519 阅读 · 0 评论 -
Hadoop本地库与系统版本不一致引起的错误解决方法
部署Hadoop的集群环境为 操作系统 CentOS 5.8 hadoop版本为cloudera hadoop-0.20.2-cdh3u3 集群中设置支持gzip lzo压缩后,在对压缩文件进行读取或者对输入文件压缩的时候要使用到hadoop的本地库,本地库的默认位置在 $HADOOP_HOME/lib/native/Linux-amd64-64 (64位操作系统) $H转载 2015-12-02 11:09:09 · 423 阅读 · 0 评论 -
Hadoop2.2.0集群搭建
hadoop2.0已经发布了稳定版本了,增加了很多特性,比如HDFS HA、YARN等。 注意:apache提供的hadoop-2.2.0的安装包是在32位操作系统编译的,因为hadoop依赖一些C++的本地库, 所以如果在64位的操作上安装hadoop-2.2.0就需要重新在64操作系统上重新编译 (建议第一次安装用32位的系统,我将编译好的64位的也共享里了,如果有兴趣的可以自己编译一下)原创 2015-12-02 10:38:15 · 582 阅读 · 0 评论 -
Hadoop1.1.2伪分布式安装(Vmware+CenterOS6.5.X64)
一、环境准备 1.1设置ip地址 [root@hadoop01 ~]# vi/etc/sysconfig/network-scripts/ifcfg-eth0 DEVICE=eth0 TYPE=Ethernet UUID=96d74e07-dd76-41c4-b2be-40b7e961766f ONBOOT=yes NM_CONTROLLED=yes BOOTPROTO=none原创 2015-12-06 14:47:31 · 885 阅读 · 0 评论 -
Hadoop1.1.2集群安装(Vmware+CenterOS6.5.X64)
1.1 分布结构 (jdk安装就不讲了,三台机器上都必须安装) 主节点(1个,是hadoop01):NameNode、JobTracker、SecondaryNameNode 从节点(2个,是hadoop02、hadoop03):DataNode、TaskTracker 1.2 各节点重新产生ssh加密文件 1.3编辑各个节点的/etc/hosts,在该文件中含有所有节点的i原创 2015-12-07 22:44:38 · 618 阅读 · 0 评论 -
Hadoop1.1.2伪分布安装
1.1 设置ip地址执行命令 service network restart验证: ifconfig1.2 关闭防火墙执行命令 service iptables stop[root@hadoop01 app]# service iptables stopiptables: Setting chains to policy ACCEPT: filter [ OK ]iptabl...原创 2018-03-01 00:01:04 · 309 阅读 · 0 评论