
MapReduce
冬瓜螺旋雪碧
时间的加速度
展开
-
MapReduce作业提交源码分析
MapReduce原理图job提交初步源码中主要方法提炼boolean res = job.waitForCompletion(true);waitForCompletion{ submit(){ connect(); // 其实就是为了拿到一个cluster(Local YARN) submitJobInternal(){ ...原创 2019-08-28 16:03:17 · 322 阅读 · 0 评论 -
MapReduce join案例
两个文件dept.txt10,ACCOUNTING,NEW YORK20,RESEARCH,DALLAS30,SALES,CHICAGO40,OPERATIONS,BOSTON字段解释:部门编号,部门名称,所在城市emp.txt7369,SMITH,CLERK,7902,1980-12-17,800.00,,207499,ALLEN,SALESMAN,7698,1981-2-20...原创 2019-09-03 22:43:04 · 275 阅读 · 0 评论 -
SpringBoot+Nginx+MapReduce+Flume+HDFS+Hive的ETL项目
本项目目的:通过模仿用flume采集nginx的日志进行用mapreduce进行etl操作一 搭建好nginx[root@itdragon ~]# wget http://nginx.org/download/nginx-1.16.1.tar.gz[root@itdragon ~]# tar -zxvf nginx-1.16.1.tar.gz[root@itdragon ~]# llto...原创 2019-09-19 18:26:30 · 1157 阅读 · 0 评论