
hadoop
小兀哥
变是永远不变的
展开
-
从零开始学Hadoop----浅析HDFS(一)
之前,我们简单介绍了一下Hadoop,知道他是一个处理大数据的框架。今天我们来看看Hadoop的核心构成之一—-HDFS. 这次我们知道了HDFS是一个分布式的文件存储系统,它的一些基本的概念和优缺点我们已经知道了,下次我们将给大家分享一下HDFS的运行原理。原创 2016-05-10 08:58:01 · 7745 阅读 · 1 评论 -
大数据的仓库Hive原理(二)
上次我们说到了大数据应用中的数据仓库hive,我们知道了利用hive可以更方便的处理数据,而且它的扩展性、延展性和容错性都比较好,但是它是如何利用Hql(类Sql语句)来实现数据处理的呢。 我们从hive的简单介绍到它优缺点的理解,以及它与传统关系型数据库的区别都做了一些学习,今天我们又对它的原理做了一些简单的认识,下次我们继续深入解析hive的工作原理。原创 2016-06-29 09:20:17 · 1716 阅读 · 0 评论 -
大数据的仓库Hive学习(一)
我们接着之前学习的大数据来学习。之前说到了NoSql的HBase数据库以及Hadoop中的HDFS存储系统,可是我们发现这跟我们平时常用的关系型数据库有很大区别,为了使用方便,产生了针对大数据存储的数据仓库Hive。 今天我们通过对Hive的学习,对大数据的处理又有了一定的认识。在以后的实际操作中,我们去慢慢掌握Hive的使用方法。通过不断学习,达到自己所追求的目标。原创 2016-06-20 14:58:25 · 4613 阅读 · 0 评论 -
从零开始学Hadoop——浅析MapReduce(二)
上篇博客我们介绍了MapReduce的基本概念,并且对它的运行原理做了一些解析,今天我们来通过一个实际例子来深刻体会一下它的运行过程。 至此,我们将Hadoop的两大核心学习完了,但是对我们来说,这只是刚刚开始,不过我们要打好基础,在之后的学习过程中去更加深入的研究。让我们一起准备迎接明天的挑战吧。原创 2016-05-18 09:07:45 · 2685 阅读 · 1 评论 -
从零开始学Hadoop——浅析MapReduce(一)
之前,我们说过Hadoop的两个核心为HDFS和MapReduce,既然我们已经学习了Hadoop的HDFS,那么我们就来看看MapReduce是什么。当然,我们学习的顺序还是先看看基本概念,再研究一下原理,最后做一些练习。 但是通过今天的学习,我们知道了两者是如何协同工作的,这样对我们以后的实战是非常有帮助的。下次我们将通过实例,来深层解析MapReduce的运行机制,请大家继续关注。原创 2016-05-18 09:06:26 · 18614 阅读 · 2 评论 -
NoSql之初识HBase
之前我们一直在介绍hadoop,学习了两个核心内容HDFS和MapReduce。虽然HDFS可以存储数据,但是我们无法快速的查看所需的数据,这就需要引入另一个非关系型数据库HBase。 由Hadoop的学习,我们引出了HBase的学习,知道了它是一种列式存储,在实际应用中需要结合zookeeper和hadoop一起使用。但是本文并没有介绍它的shell命令以及API接口等等,这些需要我们以后慢慢学习原创 2016-05-29 16:33:49 · 1521 阅读 · 2 评论 -
从零开始学Hadoop----初识
我们知道大数据的时代已经到来,之前就给大家分享了应对大数据的非关系型数据库redis。今天,我们再来看看处理和分析海量数据的神器——hadoop。 今天我们简单认识了一下Hadoop,知道了hadoop在大数据处理中的重要作用,以后我们将逐步学习hadoop,希望对喜欢hadoop的人有所帮助。原创 2016-05-04 15:34:22 · 2300 阅读 · 2 评论 -
从零开始学Hadoop----浅析HDFS(三)
之前,我们简单介绍了一下Hadoop的核心之一HDFS,对其中的一些概念和他的原理做了一些解析。今天我们来看看HDFS的操作实例。 到此,我们学习了HDFS的一个大概,从概念到原理最后到实际操作,基本的一些知识已经掌握,剩下的就需要在项目中历练了。接下来我们会继续分享Hadoop的另外一个核心部分MapReduce,敬请关注。原创 2016-05-10 09:01:20 · 2927 阅读 · 1 评论 -
从零开始学Hadoop----浅析HDFS(二)
上一篇,我们简单介绍了一下Hadoop的核心之一HDFS,对其中的一些概念有了一定的了解。今天我们来看看HDFS的一些原理解析。 今天我们接着上次介绍了一下HDFS的概念之后,我们对HDFS的架构,内部构造以及运行原理做了一些解析,下次我们将在实战中熟练使用HDFS做一些例子。原创 2016-05-10 08:59:44 · 2825 阅读 · 2 评论 -
大数据的仓库Hive原理(三)
上次我们简单说了一下Hive的工作原理,今天我们来深入看一下它是如何把Hql语句转换为m/r来运行的。 我们从认识Hive到理解它的运行原理,已经对其有了一定的了解。当然在实际应用中还会遇到各种问题,只要我们坚持去做,就没有什么做不到的。原创 2016-06-29 18:31:52 · 2360 阅读 · 1 评论