Hadoop工具类之WritableUtils

最新推荐文章于 2023-09-13 16:48:39 发布

dataee

最新推荐文章于 2023-09-13 16:48:39 发布

阅读量240

点赞数

分类专栏： MapReduce 文章标签：大数据运维 git

MapReduce 专栏收录该内容

54 篇文章

订阅专栏

本文详细介绍了在 Hadoop 0.20.2-cdh3u4 版本中 WritableUtils 工具的使用方法，包括字节流读写、Writable 子类克隆及序列化操作，并通过实例展示了如何利用该工具进行数据处理和优化。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

版本：

$ hadoop version
Hadoop 0.20.2-cdh3u4
Subversion git://ubuntu-slave01/var/lib/jenkins/workspace/CDH3u4-Full-RC/build/cdh3/hadoop20/0.20.2-cdh3u4/source -r 214dd731e3bdb687cb55988d3f47dd9e248c5690
Compiled by jenkins on Mon May  7 13:01:39 PDT 2012
From source with checksum a60c9795e41a3248b212344fb131c12c

工具：

org.apache.hadoop.io.WritableUtils

用途：

1.字节流读写

2.Writable子类克隆

3.Writable子类序列化

使用：

克隆

protected void reduce(Text key, Iterable<VectorWritable> values, Context context)
	        throws IOException, InterruptedException {
	CosineDistanceMeasure cdm = new CosineDistanceMeasure();
	Map<String, VectorWritable> map = new HashMap<String, VectorWritable>();
	for (VectorWritable vectorWritable : values) {
		VectorWritable vw = WritableUtils.clone(vectorWritable, context.getConfiguration());
	}
}

序列化

protected void reduce(Text key, Iterable<VectorWritable> values, Context context)
	        throws IOException, InterruptedException {
	CosineDistanceMeasure cdm = new CosineDistanceMeasure();
	Map<String, VectorWritable> map = new HashMap<String, VectorWritable>();
	for (VectorWritable vectorWritable : values) {
		VectorWritable vw = WritableUtils.clone(vectorWritable, context.getConfiguration());
		WritableUtils.toByteArray(vw);
	}
}