MapReduce自定义类设置中文属性写出到HDFS乱码

最新推荐文章于 2021-08-04 21:29:25 发布

原创最新推荐文章于 2021-08-04 21:29:25 发布 · 316 阅读

1 ·

CC 4.0 BY-SA版权

文章标签：

#mapreduce #hadoop

Hadoop 专栏收录该内容

6 篇文章

订阅专栏

本文介绍了在MapReduce自定义类中设置中文属性时遇到的乱码问题。从重写write和readFields方法，到map方法设置中文属性值，本地测试正常，但在集群上运行时出现乱码。经过排查，发现是由于maven打包时配置问题导致，日志显示GBK编码。解决方法是修改pom.xml文件相关配置，确保使用UTF-8编码，重新打包后，乱码问题得到解决。

自定义类中重写write和readFields方法

@Override
public void write(DataOutput out) throws IOException {
    out.writeUTF(this.name);
    out.writeUTF(this.course);
}

@Override
public void readFields(DataInput in) throws IOException {
    this.name = in.readUTF();
    this.course = in.readUTF();
}

map方法中设置中文属性值

@Override
protected void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException {
    String[] split = value.toString().split("\t");
    if (split.length == 6) {
        k.setName(split[0]);
        k.setCourse("语文");
        v.set(Double.parseDouble(split[3].trim()));
        context.write(k, v);
        k.setCourse("数学");
        v.set(Double.parseDouble(split[4].trim()));
        context.write(k, v);
        k.setCourse("英语");
        v.set(Double.parseDouble(split[5].trim()));
        context.write(k, v);
    }
}