Hadooop序列化框架使用

最新推荐文章于 2024-05-05 15:14:42 发布

原创最新推荐文章于 2024-05-05 15:14:42 发布 · 165 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#java

hadoop 专栏收录该内容

20 篇文章

订阅专栏

本文介绍了一个具体的Java序列化示例，展示了如何通过实现Writable接口来完成对象的序列化与反序列化过程，并使用了多种序列化工厂进行演示。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

第一步:实现Writable接口(TestGenericWritable.java)
 public static class Baz extends Bar {
    @Override
    public void readFields(DataInput in) throws IOException {
      super.readFields(in);
      //needs a configuration parameter
      assertEquals("Configuration is not set for the wrapped object", 
          CONF_TEST_VALUE, getConf().get(CONF_TEST_KEY)); 
    }
    @Override
    public void write(DataOutput out) throws IOException {
      super.write(out);
    }
  }
  /
  Text before = new Text("test writable");
第二步：在序列化工厂中获取所有支持的序列化/反序列化JavaSerialization/WritableSerialization/AvroSerialization/AvroReflectSerialization/AvroSpecificSerialization
SerializationFactory factory = new SerializationFactory(conf);
    Serializer<K> serializer 
      = factory.getSerializer(GenericsUtil.getClass(before));
    Deserializer<K> deserializer 
      = factory.getDeserializer(GenericsUtil.getClass(before));
第三步：定义输入/输出并对数据进行序列化
 DataOutputBuffer out = new DataOutputBuffer();
    serializer.open(out);
    serializer.serialize(before);
    serializer.close();

    DataInputBuffer in = new DataInputBuffer();
    in.reset(out.getData(), out.getLength());
    deserializer.open(in);
    K after = deserializer.deserialize(null);
    deserializer.close();