
大数据
zhangphil
zhangphil@live.com
展开
-
Hadoop client NameNode、DataNode节点读写文件过程
Hadoop client NameNode、DataNode节点读写文件过程读:写:原创 2019-08-02 23:03:26 · 673 阅读 · 0 评论 -
基于Curator更新写入zookeeper分布式集群节点数据
基于Curator更新写入zookeeper分布式集群节点数据import org.apache.curator.RetryPolicy;import org.apache.curator.framework.CuratorFramework;import org.apache.curator.framework.CuratorFrameworkFactory;import org.a...原创 2019-09-07 23:51:24 · 1427 阅读 · 0 评论 -
zookeeper分布式集群中Curator的PathChildrenCache监测节点数据更新添加删除
zookeeper分布式集群中Curator的PathChildrenCache监测节点数据更新添加删除import org.apache.curator.RetryPolicy;import org.apache.curator.framework.CuratorFramework;import org.apache.curator.framework.CuratorFramew...原创 2019-09-11 23:38:41 · 1514 阅读 · 0 评论 -
zookeeper分布式集群中Curator的NodeCache监测特定节点数据更新添加删除
zookeeper分布式集群中Curator的NodeCache监测特定节点数据更新添加删除import org.apache.curator.RetryPolicy;import org.apache.curator.framework.CuratorFramework;import org.apache.curator.framework.CuratorFrameworkFac...原创 2019-09-09 23:12:08 · 1193 阅读 · 0 评论 -
zookeeper分布式集群中Curator的TreeCache监测节点数据更新添加删除
zookeeper分布式集群中Curator的TreeCache监测节点数据更新添加删除import org.apache.curator.RetryPolicy;import org.apache.curator.framework.CuratorFramework;import org.apache.curator.framework.CuratorFrameworkFacto...原创 2019-09-11 00:04:50 · 1952 阅读 · 0 评论 -
zookeeper分布式集群Curator的LeaderLatch节点选举Leader
zookeeper分布式集群Curator的LeaderLatch节点选举Leaderimport org.apache.curator.RetryPolicy;import org.apache.curator.framework.CuratorFramework;import org.apache.curator.framework.CuratorFrameworkFactor...原创 2019-09-18 23:19:05 · 1204 阅读 · 0 评论 -
zookeeper分布式集群Curator的LeaderSelector节点选举Leader
ZooKeeper分布式集群Curator的LeaderSelector节点选举Leaderimport org.apache.curator.RetryPolicy;import org.apache.curator.framework.CuratorFramework;import org.apache.curator.framework.CuratorFrameworkFactor...原创 2019-09-28 23:55:04 · 1021 阅读 · 0 评论 -
基于Curator检测zookeeper分布式集群节点状态变化
基于Curator检测zookeeper分布式集群节点状态变化Curator是apache下面的一个开源项目,是基于zookeeper的一个项目。旨在简化zookeeper节点数据操作。Curator的项目主页:http://curator.apache.org/Curator在github上的开源项目主页:https://github.com/apache/curator在ide...原创 2019-09-03 23:14:43 · 730 阅读 · 0 评论 -
基于ZkClient往zookeeper分布式集群节点写入数据
zookeeper自身的ZooKeeper构建一个连接,然后往zookeeper节点写入数据,但是代码写法略显复杂。现在使用github上的一个开源项目ZkClienthttps://github.com/sgroschupf/zkclient可以大大简化往zookeeper分布式集群中的节点写入数据的复杂度。首先需要在pom.xml添加引用: <depend...原创 2019-08-25 23:06:13 · 1461 阅读 · 0 评论 -
zookeeper集群节点中Java程序代码写入节点数据
基于IDEA开发。需要添加对zookeeper的maven引用。 <dependencies> <dependency> <groupId>org.apache.zookeeper</groupId> <artifactId>zookeeper</artif...原创 2019-08-22 23:08:34 · 2398 阅读 · 0 评论 -
大数据:Hadoop基础常识hive,hbase,MapReduce,Spark
大数据:Hadoop基础常识hive,hbase,MapReduce,SparkHadoop是根据Google三大论文为基础研发的,Google 三大论文分别是: MapReduce、 GFS和BigTable。Hadoop的核心是两个部分:一、分布式存储(HDFS,Hadoop Distributed File System)。二、分布式计算(MapReduce)。MapRed...原创 2019-08-11 23:44:47 · 1979 阅读 · 0 评论 -
大数据:Hadoop入门经典案例wordcount单词统计Java代码实现
大数据:Hadoop入门经典案例wordcount单词统计Java代码实现,Windows 10环境,IntelliJ IDEA集成开发环境。附1通过命令行形式实现大数据平台Hadoop下单词统计功能。现在通过自己编写Java代码实现。本例基于Hadoop 2.8.3,Windows 10(64位)。开发环境是Windows下的IntelliJ IDEA。1,首先需要为IntelliJ I...原创 2019-08-16 23:57:27 · 5081 阅读 · 2 评论 -
大数据:Windows环境下搭建安装Hadoop详解
基于Windows10 64位。Hadoop-2.8.3,winutils-2.8.3。1,下载Hadoop发布的稳定包:https://archive.apache.org/dist/hadoop/common/下载后把文件解压,如图:本文基于Hadoop版本hadoop-2.8.32,当前电脑要安装有java的jdk,配置java环境和java_home。我没修...原创 2019-08-08 23:18:27 · 7977 阅读 · 3 评论 -
大数据:Hadoop文件操作HDFS常用命令(一)
大数据:Hadoop文件操作HDFS常用命令(一)1、创建目录。在HDFS中创建一个文件目录:hadoop dfs -mkdir2、查看文件结构目录:hdfs dfs -ls -R /例如,在HDFS中创建一个test_dir的文件目录,然后查看:如果查看具体某一个文件目录下的文件层次,则为:hadoop fs -ls /mydirmyd...原创 2019-08-09 23:03:26 · 31252 阅读 · 3 评论 -
大数据:Hadoop入门案例,命令行wordcount统计
大数据:Hadoop入门案例,命令行wordcount统计以Hadoop自带的wordcount为例,说明如何在Windows环境下,统计若干文件中的单词出现次数。上传要统计的文件。假设在计算机本地有三个文件,f1.txt,f2.txt,f3.txt,这个三个文件位于E:/myfile文件夹下,需要把myfile整个文件上传到HDFS上。本例目的就是统计存放到HDFS中的f1,f2,f3这...原创 2019-08-10 23:16:59 · 2553 阅读 · 0 评论 -
zookeeper节点监视Watcher
import org.apache.zookeeper.*;import java.util.List;public class Main { public static void main(String[] args) { //初始化log4j,zookeeper否则报错。 org.apache.log4j.BasicConfigurator.c...原创 2019-09-02 23:49:25 · 1042 阅读 · 0 评论 -
zookeeper启动错误:Invalid config, exiting abnormally
zookeeper启动错误:Invalid config, exiting abnormally原因是在conf下面的zoo.cfg写配置时候,server.x=x.x.x.x:x:x 后面多了空格。解决方案:删除多余空格即可。原创 2019-08-24 23:27:47 · 10022 阅读 · 4 评论 -
Windows 10环境zookeeper单机伪集群部署和配置
Windows 10环境zookeeper单机伪集群部署和配置1,首先到zookeeper项目主页地址下载项目包,https://archive.apache.org/dist/zookeeper/本文基于zookeeper-3.5.52,本例目的是在一台Windows 10(64位)机器上,部署三个zookeeper节点,因此把第1步解压后的包:复...原创 2019-08-21 23:29:49 · 2227 阅读 · 1 评论 -
Windows环境下zookeeper常用命令操作
附1是zookeeper在Windows 10环境下的安装和部署。通过zookeeper\bin下面的zkServer启动zookeeper集群后,就可以通过bin/目录下的zkCli连接zookeeper集群服务:zkCli.cmd -server 127.0.0.1:2181如果是在当前集群的某一个节点,那么可以在bin/目录下直接使用命令:zkCli即启动一个zookee...原创 2019-08-28 23:07:50 · 5843 阅读 · 0 评论