Sequencefile 文件结构

   SequenceFile是由二进制键值对组成的扁平文件。SequenceFile提供了writerreadersorter三种类来写、读和排序。

   真实的压缩逻辑是使用指定的合适CompressionCodeckeyvalue进行处理。

   SequenceFile文件格式

Header通用头文件格式:

   SEQ(3bytes)

   Num(1byte数字)

   keyClassName

   valueClassName

   compression(boolean,指明了在文件中是否启用了压缩)

   blockCompression(boolean,指明是否是block压缩)

   compression codec

   Metadata(文件元数据)

   Sync(头文件结束标志)

Uncompressed SequenceFile Format

   Header

   Record

         Record length

         Key length

         Key

         Value

   sync-marker,每100字节左右就一个sync标志

Record-Compressed SequenceFile Format

   Header

   record

         Record length

         Key length

         Key

         Compressed

   sync-marker,每100字节左右就一个sync标志



Block-Compressed SequenceFile Format

   Header

   Block

         Compressed key-lengths block-size

         Compressed key-lengths block

         Compressed keys block-size

         Compressed keys block

         Compressed value-lengths block-size

         Compressed value-lengths block

         Compressed values block-size

        Compressed values block 

   sync-marker,每100字节左右就一个sync标志

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值