
Hadoop
rongDang
年轻人就该多读书
展开
-
Centos 7 中配置安装Hadoop
使用Xshell来连接虚拟机通过VMware创建好虚拟机后(如何创建虚拟机查看此文章),进入到Centos中进行设置,开启ipv4地址,因为默认是关闭的,没有修改前,输入ifconfig显示如下,没有192.168.121.147这样的地址出现输入下面命令cd /etc/sysconfig/network-scripts (进入网络设置目录)vi ifcfg-ens3...原创 2019-02-22 10:29:39 · 447 阅读 · 0 评论 -
Centos 7 部署Hive2.3.4,使用MySQL8.0
下载Hive2.3.4下载地址:http://www.apache.org/dyn/closer.cgi/hive/点击链接,然后下载你需要的hive版本,这里我下载的是hive2.3.4版本,注意了不同hive版本对应不同的Hadoop版本,本博客是在部署好Hadoop的基础上操作。。。下载后通过 rz 命令上传下载好的压缩包,这里也可以在Centos里面通过wget命令来下...原创 2019-03-01 11:49:47 · 2564 阅读 · 0 评论 -
Centos 7 中zookeeper 3.4.1集群搭建
条件有三台虚拟机,虚拟机上都有配置jdk1.8,虚拟机之间可以互相通过ssh访问三台虚拟机的hosts 最后都有下面内容:192.168.43.44 slave1 # 前面为虚拟机的ip地址,后面为虚拟机名,192.168.43.45 slave2192.168.43.46 slave3三台虚拟机都配置有下面内容的环境变量 /etc/profile...原创 2019-03-04 15:07:46 · 352 阅读 · 0 评论 -
小白关于Ant的使用
关于Ant的简介:是一个用于简单或复杂Java工程的自动化构建,部署工具。使用java开发,通过xml存储build信息,因此跨平台。Ant可以代替使用javac,java和jar等命令来执行java操作,从而达到轻松的构建和部署java工程。下载部署下载地址http://ant.apache.org/bindownload.cgi复制下载链接,通过wget 命令下载到Ce...转载 2019-03-07 11:24:08 · 348 阅读 · 0 评论 -
Hbase常用命令操作
Hbase中基本的Shell命令操作关于Hbase的使用,如果部署的是分布式的Hbase,使用的是Hadoop的zookeeper,那么应该先启动zookeeper然后再启动Hbase,在master上执行 start-hbase.sh 即可,如果有出现问题,到hbase下的logs目录中查看对应的 .log 日志文件看看问题出在哪。进入和退出hbase shellhbase sh...原创 2019-03-21 11:47:18 · 552 阅读 · 0 评论 -
Hadoop的基础介绍
Hadoop的项目结构 Hadoop Common, Common 是为Hadoop其他组件提供公共库的,是一个非常基础层次 Hadoop HDFS HDFS是负责整个分布式文件的存储,利用许多的服务器进行数据的存储 Hadoop YARN YARN专门负责资源的调度 Hadoop MapReduce Hadoop2.0后,MapReduce变成是专门做...转载 2019-03-13 10:20:35 · 399 阅读 · 0 评论 -
Hadoop分布式文件系统HDFS
介绍分布式文件系统把文件分布式存储多个计算机节点上,成千上万的计算机节点构成计算机集群。与使用多个处理器和专用高级硬件的并行化处理装置不同,目前分布式文件系统采用的计算机集群都是普通的硬件构成,这样就很大程度的降低了硬件上的开销。分布式文件系统的结构分布式文件系统在物理结构上是由计算机集群中的多个节点构成的,这些节点分为两类,一类是 “主节点” :Master Node(也就是Na...转载 2019-03-14 17:30:01 · 536 阅读 · 0 评论 -
Hbase2.1.3分布式部署
我的Hadoop版本为2.7.6,jdk为1.8版本的,都和Hbase2.1.3兼容,部署在Cento7上,我将在五台虚拟机上测试部署 ( master1,master2, slave1,slave2,slave3)具体可以查看官网的给的表:http://hbase.apache.org/book.html#java,http://hbase.apache.org/book.html#ha...原创 2019-03-19 12:18:32 · 749 阅读 · 0 评论