
MapReduce
Nurbiya_K
坚持是件很酷的事情!
展开
-
MapReduce —— 驱动类 Driver
驱动类主要用于关联Mapper 和 Reducer 以及 提交整个程序。具体代码如下://驱动类public class FlowSumDriver { public static void main(String[] args){ Configuration conf = new Configuration() ; // 1. 获取job对象 Job job = Job...原创 2019-12-27 12:39:32 · 2065 阅读 · 1 评论 -
MapReduce —— Reducer 阶段代码
现在有一堆关于手机号的数据,需要从中获取每个手机号对应的上行流量,下行流量,以及总流量(总流量=上行流量+下行流量)这个案例Mapper阶段代码:Mapper阶段代码这个案例自定义Bean对象阶段代码:自定义Bean阶段代码具体Reducer阶段代码如下:public class FlowCountReducer extends Reducer<Text,FlowBean,Text,...原创 2019-12-26 12:01:38 · 678 阅读 · 0 评论 -
MapReduce —— Mapper 阶段代码编写
每次过一段时间就会忘记 MapReduce 的代码编写步骤 ,所以记录一下,方便以后翻看现有一个案例:现在有一堆关于手机号的数据,需要从中获取每个手机号对应的上行流量,下行流量,以及总流量(总流量=上行流量+下行流量)原数据类型大概如下:这里把手机号为Key,其他(上行,下行,总流量)为value,因为value不只是一个参数,所以需要自定义一个Bean对象,用来传value具体的自定...原创 2019-12-26 00:14:50 · 893 阅读 · 0 评论 -
MapReduce —— 自定义一个Bean 对象
在编写MapReduce 代码时,有时候一个key需要一次性传输多个value值例如这个案例:现在有一堆关于手机号的数据,需要从中获取每个手机号对应的上行流量,下行流量,以及总流量(总流量=上行流量+下行流量)(其实这个案例不用自定义Bean对象也能解决,但还是觉得,自定义Bean对象早晚会用到,所以想把看视频学到的东西总结一下)下面是具体代码:在这里插入代码片...原创 2019-12-25 23:15:18 · 741 阅读 · 0 评论 -
Unable to initialize MapOutputCollector org.apache.hadoop.mapred.MapTask$MapOutputBuffer java.lang.C
写Mapreduce代码时 报这个错的时候去查看所有使用Text类型的类里面导的包。Text导的包必须是这个import org.apache.hadoop.io.Text;,我就是因为不小心导包倒错了,才出现的这个问题...原创 2019-09-05 14:16:06 · 509 阅读 · 0 评论 -
java.lang.Exception: java.lang.ArrayIndexOutOfBoundsException: 7 MapReduce代码报这样的错的解决方法
在 MapReduce 报数组越界问题:在编写MapReduce 的代码块的时候报数组越界,主要是因为在处理大量的数据的时候,不能%确定这大量数据中不存在空行,所以必须要先判断是否为空: at org.apache.hadoop.mapred.LocalJobRunner$Job.runTasks(LocalJobRunner.java:462) at org.apache.hadoop.m...原创 2019-09-06 22:24:15 · 2511 阅读 · 0 评论 -
java.lang.Exception: java.util.NoSuchElementException: iterate past last value
java.lang.Exception:java.util.NoSuchelementException:遍历最后一个值java.lang.Exception: java.util.NoSuchElementException: iterate past last value at org.apache.hadoop.mapred.LocalJobRunner$Job.runTasks(Loc...原创 2019-09-11 09:57:55 · 871 阅读 · 0 评论 -
IDEA 写 MapReduce 程序时需要配置的pom.xml 文件
直接复制粘贴就可以了,没有修改别的东西<?xml version="1.0" encoding="UTF-8"?><project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schem...原创 2019-10-10 14:33:07 · 2130 阅读 · 2 评论