
hadoop
zhangphil
zhangphil@live.com
展开
-
Hadoop client NameNode、DataNode节点读写文件过程
Hadoop client NameNode、DataNode节点读写文件过程读:写:原创 2019-08-02 23:03:26 · 673 阅读 · 0 评论 -
大数据:Hadoop基础常识hive,hbase,MapReduce,Spark
大数据:Hadoop基础常识hive,hbase,MapReduce,SparkHadoop是根据Google三大论文为基础研发的,Google 三大论文分别是: MapReduce、 GFS和BigTable。Hadoop的核心是两个部分:一、分布式存储(HDFS,Hadoop Distributed File System)。二、分布式计算(MapReduce)。MapRed...原创 2019-08-11 23:44:47 · 1979 阅读 · 0 评论 -
大数据:Hadoop入门经典案例wordcount单词统计Java代码实现
大数据:Hadoop入门经典案例wordcount单词统计Java代码实现,Windows 10环境,IntelliJ IDEA集成开发环境。附1通过命令行形式实现大数据平台Hadoop下单词统计功能。现在通过自己编写Java代码实现。本例基于Hadoop 2.8.3,Windows 10(64位)。开发环境是Windows下的IntelliJ IDEA。1,首先需要为IntelliJ I...原创 2019-08-16 23:57:27 · 5081 阅读 · 2 评论 -
大数据:Windows环境下搭建安装Hadoop详解
基于Windows10 64位。Hadoop-2.8.3,winutils-2.8.3。1,下载Hadoop发布的稳定包:https://archive.apache.org/dist/hadoop/common/下载后把文件解压,如图:本文基于Hadoop版本hadoop-2.8.32,当前电脑要安装有java的jdk,配置java环境和java_home。我没修...原创 2019-08-08 23:18:27 · 7977 阅读 · 3 评论 -
大数据:Hadoop文件操作HDFS常用命令(一)
大数据:Hadoop文件操作HDFS常用命令(一)1、创建目录。在HDFS中创建一个文件目录:hadoop dfs -mkdir2、查看文件结构目录:hdfs dfs -ls -R /例如,在HDFS中创建一个test_dir的文件目录,然后查看:如果查看具体某一个文件目录下的文件层次,则为:hadoop fs -ls /mydirmyd...原创 2019-08-09 23:03:26 · 31247 阅读 · 3 评论 -
大数据:Hadoop入门案例,命令行wordcount统计
大数据:Hadoop入门案例,命令行wordcount统计以Hadoop自带的wordcount为例,说明如何在Windows环境下,统计若干文件中的单词出现次数。上传要统计的文件。假设在计算机本地有三个文件,f1.txt,f2.txt,f3.txt,这个三个文件位于E:/myfile文件夹下,需要把myfile整个文件上传到HDFS上。本例目的就是统计存放到HDFS中的f1,f2,f3这...原创 2019-08-10 23:16:59 · 2553 阅读 · 0 评论