什么是文件格式?

本文介绍了文件格式的基本概念,并通过Java实现了一个简单的自定义文件格式,包括数据的写入与读取过程。

       java 字节流汇总: java 字节流入门(读文件)

       有了之前 4 篇对文件的操作工具之后,终于到了文件格式的介绍部分!本文介绍文件格式的定义,并实现一个自己的文件格式。这个文件格式十分简单,只用来说明原理。

文件格式的定义

       wiki 定义:

       A file format is a standard way that information is encoded for storage in a computer file. It specifies how bits are used to encode information in a digital storage medium.

       翻译一下:

       文件格式是将信息进行编码并存储在计算机文件中的标准方式。它指定如何使用字节来编码信息,并存储在数字存储媒介中。

       人话:

       就是告诉你数据是怎么存在文件中的。有了文件格式,你就可以将数据写成这种格式的文件,并且将数据从这种格式的文件中读出来。文件格式的本质就是一种协议。

       举个例子,word、excel、PPT 就是文件格式,他们按照自己的格式进行组织,计算机中不同的文件后缀就代表不同格式的文件,同样格式的文件的内容可以不同。

       开发一种文件格式,一般都需要开发读写接口。最简单的写接口是将一个数据写入到文件中,最简单的读接口就是把里边的所有数据全部读出来(这里的读出来,一般需要以用户可认识的格式读出来。不能用户写了个a,你读出来个#,然后跟用户说 # 就是 a ,这是耍流氓)。

       再举例子,word 给人提供了一个界面,让你可以写文字。保存关闭之后再打开。他还能给你展示之前写入的内容,这就是读文件。

       文件格式一般包含两部分:data 和 metadata。data 即数据;metadata 即元数据(描述数据的数据),比如这个文件中一共有几条数据,数据的起始位置是多少,长度是多少。

       下面介绍一个自己的文件格式:

实现自己的文件格式!

       这个文件格式的功能为:写 int 数据;读取所有数据。

       文件结构如下图:因为文件在磁盘上是一维结构,因此文件格式就直接画成一条线了,这个文件格式中,前边是数据,最后是元数据。当然你也可以设计成其他样子,比如元数据和数据交叉存放。这里只介绍一个比较简单的。

c66c5f691772c709914351f481953f67.png

       原料如下:写流程用到了 ByteArrayOutputStream 和 FileOutputStream。 读流程用到了 RandomAccessFile。这里的 metadata 就是一个 int 类型的 count,记录文件中数据的个数。isWrite 用来判断此实例是读流程还是写流程。一般文件格式都是先写,关闭之后再另起线程进行读取。

8ee9fda78d1b486ad6d3f2c21d6efafb.png

       两个小工具,用来将 int 和 bytes 间的转换

e8c212b88ee701f6bb90a7dc213c3218.png

       写入方法:将数据缓存进 baos,计数+1。这时候只把数据的字节数组放在了内存中,还没有真正往文件里写数据。

0fc7c3bc9ec1890cea2b7b9d77e6892d.png

       close 方法:先将 metadata (count)写入 baos 末尾,然后将 baos 中的所有bytes 写入文件。最后关闭文件。

0787eded6bef0355f73fcb3e31e6867b.png

       读方法:先读文件末尾的 metadata,再读数据。上边我们说了,metadata 一般包括了数据的个数,所在位置,长度。但是这里的 metadata 只有一个数据的个数。这是不是有问题了?没问题,因为我们的数据都是 int,占 4 个字节,所以数据整体长度就有了。并且我们的数据是从 文件开头开始写的,因此所在位置也是预先知道的。 这就是文件格式,怎么写的怎么读。

2dcbea5d51257c5c0f2f0180d2cd27b4.png

       另一个方面也不能忽略,那就是 metadata 其实也是一种数据,那么 metadata 我们是怎么读的呢?其实 metadata 也需要自己的 metadata,这样就无穷无尽无止境了,metadta 还有 metadata。。。但是,是有止境的,一般那个终止点再文件的开头或结尾,存储了一个位置相邻的 metadata 的长度。这样,就找到了第一个metadata。之后的就可以一连串找出来了。比如在这个例子中,这个终止点是一个 int,存在文件的末尾,占 4 个字节。

       主方法:先起一个实例写文件,再起一个实例读文件。每次用完实例后需要关闭。

dac91e3223ab81f951b33417a7a09fa6.png

       运行结果:所有数据被读出来了

967ca2ca486967a7a223662b4e5ae407.png

总结

       是不是很开心,今天我们对文件格式有了一个初步了解,并且实现了一个自己的文件格式。你也可以自己设计文件格式。

       一般设计一款文件格式需要考虑以下几个事:

       (1)data 和 metadtata 如何组织:放在一起还是分开,metadata有几层等。

       (2)写入流程中内存占用:在内存缓存多少数据后刷到磁盘。

       (3)如何降低磁盘占用:用什么压缩编码方式。

       (4)如何加速查询:用什么索引,如何过滤。

       (5)文件是否支持修改:是直接覆盖还是生成新文件。

       代码:  

       https://github.com/qiaojialin/Java-IO-Learning

    更多内容推荐:

    • 了解 IoTDB 时序数据库

    • 了解更多 IoTDB 应用案例

       如果觉得不错,可以推荐给身边的人。还可以随手点赞,长按关注!

ee0fda7e9c500c4570de2b64112dc98f.gif

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Apache IoTDB

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值