Avro基础

最新推荐文章于 2022-05-29 08:07:29 发布

weixin_30435261

最新推荐文章于 2022-05-29 08:07:29 发布

阅读量116

点赞数 1

CC 4.0 BY-SA版权

文章标签：大数据 java

原文链接：http://www.cnblogs.com/eaglegeek/p/4557823.html

本文介绍了Avro的基本功能及其在Gora框架中的应用。Avro不仅定义了数据模式文件的语法，还规定了数据序列化的格式，并为部分语言提供了读取API。在Gora中，Avro主要用于定义数据Bean，以便于数据的持久化管理和序列化。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

一、Avro的基本功能

1、定义了数据模式文件的语法，一般使用json文件。以及一些数据基本类型与复杂类型。

2、定义了数据序列化到文件后的数据格式，此格式可供各种语言进行读取。

3、为部分语言定义了序列化文件的读取API，如JAVA等。

4、扩展了hadoop的基本mapreduce，提供了用于使用Avro作为输出框架的mapreduce API。

二、Gora中的avro

在gora中使用avro其实只使用了avro基本功能中的第一个，这个gora官方示例中的说明：

Data beans are the main way to hold the data in memory and persist in Gora. Gora needs to explicitly keep track of the status of the data in memory, so we use Apache Avro for defining the beans. Using Avro gives us the possibility to explicitly keep track of an object's persistent state and a way to serialize an object's data. Defining data beans is a very easy task, but for the exact syntax pleaseconsult the Avro Specification.

详见http://blog.youkuaiyun.com/jediael_lu/article/details/43272521

详见《hadoop权威指南》

转载于:https://www.cnblogs.com/eaglegeek/p/4557823.html