
hadoop
隨意的風
从事10+年的技术开发,结交天下软件研发朋友,共同探讨技术、共同进步。
展开
-
大数据发展背后的强力推手——HBase分布式存储系统
今天我们介绍可在廉价PC Server上搭建起大规模结构化存储集群的分布式存储系统——HBase。博主福利 给大家赠送一套hadoop视频课程授课老师是百度 hadoop 核心架构师 内容包括hadoop入门、hadoop生态架构以及大型hadoop商业实战案例。 讲的很细致, MapReduce 就讲了 15 个小时。 学完后可以胜任 hadoop 的开发工作,很多人学的这个...原创 2018-08-29 10:30:20 · 481 阅读 · 0 评论 -
(第8篇)实时可靠的开源分布式实时计算系统——Storm
摘要: 在Hadoop生态圈中,针对大数据进行批量计算时,通常需要一个或者多个MapReduce作业来完成,但这种批量计算方式是满足不了对实时性要求高的场景。那Storm是怎么做到的呢?博主福利 给大家赠送一套hadoop视频课程授课老师是百度 hadoop 核心架构师 内容包括hadoop入门、hadoop生态架构以及大型hadoop商业实战案例。 讲的很细致, MapRedu...原创 2018-08-30 09:17:57 · 849 阅读 · 0 评论 -
(第7篇)灵活易用易维护的hadoop数据仓库工具——Hive
摘要: Hive灵活易用且易于维护,十分适合数据仓库的统计分析,什么样的结构让它具备这些特性?我们如何才能灵活操作hive呢?博主福利给大家推荐一套hadoop视频课程[百度hadoop核心架构师,首次内部分享的企业级项目视频,价值3980元]免费赠送100份,先到先得。联系老师微信windgs,备注OSchina。部分视频截图展示 Hivehive是...原创 2018-08-30 09:18:04 · 324 阅读 · 0 评论 -
(第6篇)大数据发展背后的强力推手——HBase分布式存储系统
摘要: 今天我们介绍可在廉价PC Server上搭建起大规模结构化存储集群的分布式存储系统——HBase。博主福利 给大家赠送一套hadoop视频课程授课老师是百度 hadoop 核心架构师 内容包括hadoop入门、hadoop生态架构以及大型hadoop商业实战案例。 讲的很细致, MapReduce 就讲了 15 个小时。 学完后可以胜任 hadoop 的开发工作,很多人...原创 2018-08-30 09:17:35 · 263 阅读 · 0 评论 -
(第4篇)hadoop之魂--mapreduce计算框架,让收集的数据产生价值
摘要: 通过前面的学习,大家已经了解了HDFS文件系统。有了数据,下一步就要分析计算这些数据,产生价值。接下来我们介绍Mapreduce计算框架,学习数据是怎样被利用的。博主福利 给大家赠送一套hadoop视频课程授课老师是百度 hadoop 核心架构师 内容包括hadoop入门、hadoop生态架构以及大型hadoop商业实战案例。 讲的很细致, MapReduce 就讲了 1...原创 2018-08-29 11:20:59 · 315 阅读 · 0 评论 -
(第1篇)什么是hadoop大数据?我又为什么要写这篇文章?
摘要: hadoop是什么?hadoop是如何发展起来的?怎样才能正确安装hadoop环境? 这些天,有很多人咨询我大数据相关的一些信息,觉得大数据再未来会是一个朝阳行业,希望能尽早学会、入行,借这个机会,我决定写一下关于大数据的知识和我这些年的感悟。 我写这个博客目的就是为了帮助新人快速进入大数据行业,市面上有很多类似的书籍都是重理论少实践,特别缺少一线企业实践经验的传...原创 2018-08-29 11:05:24 · 410 阅读 · 0 评论 -
Hadoop参数汇总
linux参数以下参数最好优化一下:文件描述符ulimit -n 用户最大进程 nproc (hbase需要 hbse book) 关闭swap分区 设置合理的预读取缓冲区 Linux的内核的IO调度器JVM参数JVM方面的优化项Hadoop Performance Tuning GuideHadoop参数大全适用版本:4.3.0主要配置文件:cor...原创 2018-08-29 10:50:44 · 340 阅读 · 0 评论 -
MapReduce原理
MapReduce运行流程 MapReduce容错机制原创 2018-08-29 10:48:23 · 250 阅读 · 0 评论 -
HDFS特点
原创 2018-08-29 10:46:24 · 315 阅读 · 0 评论 -
HDFS文件读写流程
1、HDFS文件读取流程: 2、HDFS写入文件流程原创 2018-08-29 10:44:28 · 323 阅读 · 0 评论 -
(第9篇)大数据的的超级应用——数据挖掘-推荐系统
摘要: 当我们搜集好了庞大的数据,那我们要怎么利用他们来指导推荐系统呢?博主福利 给大家赠送一套hadoop视频课程授课老师是百度 hadoop 核心架构师 内容包括hadoop入门、hadoop生态架构以及大型hadoop商业实战案例。 讲的很细致, MapReduce 就讲了 15 个小时。 学完后可以胜任 hadoop 的开发工作,很多人学的这个课程找到的工作。 (包括...原创 2018-08-30 09:17:50 · 1272 阅读 · 0 评论