
大数据
文章平均质量分 96
J_Howie
这个作者很懒,什么都没留下…
展开
-
RocketMQ之源码环境篇:搭建Debug环境
源码地址:https://github.com/apache/incubator-rocketmq导入方式:因为源码托管在git上,使用git命令行导入或者IDE导入都是很方便的,这里就不赘述,我用eclipse直接导入后的源码结构如下:运行环境:现在直接调试源码肯定是不行的,需要做一些代码的修改:1、org.apache.rocketmq.namesrv.NamesrvStart...原创 2019-02-17 10:48:05 · 544 阅读 · 0 评论 -
Hadoop学习之旅(一)-HDFS
一、分布式文件系统的设计思路1.1、为什么要使用分布式文件系统1)、不管文件多大,都存储在一个节点上,在进行个数据处理的时候很难进行并行处理,节点可能就成为网络瓶颈,很难进行大数据的处理2)、存储负载很难均衡,每个节点的利用率很低1.2、简单原理示例为了保证文件的可用可靠性,分布式存储的主要原理就是副本机制,文件以多副本的方式进行存储。 file1:node1 node2 node3...原创 2018-10-08 22:42:51 · 328 阅读 · 0 评论 -
Hadoop学习之旅(二)-YARN
一、YARN产生背景二、YARN概述三、YARN架构四、YARN执行流程五、YARN环境搭建六、提交作业到YARN上执行原创 2018-10-09 09:58:33 · 569 阅读 · 0 评论