Python中使用pickle持久化对象

本文介绍Python中使用pickle模块进行对象的持久化存储和读取,包括dump和load方法的使用,以及通过设置protocol参数提高文件压缩比和读写速度。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

Python中可以使用 pickle 模块将对象转化为文件保存在磁盘上,在需要的时候再读取并还原。具体用法如下:

  pickle.dump(obj, file[, protocol])

  这是将对象持久化的方法,参数的含义分别为:
  obj: 要持久化保存的对象;
  file: 一个拥有 write() 方法的对象,并且这个 write() 方法能接收一个字符串作为参数。这个对象可以是一个以写模式打开的文件对象或者一个 StringIO 对象,或者其他自定义的满足条件的对象。
  protocol: 这是一个可选的参数,默认为 0 ,如果设置为 1 或 True,则以高压缩的二进制格式保存持久化后的对象,否则以ASCII格式保存。

  对象被持久化后怎么还原呢?pickle 模块也提供了相应的方法,如下:

  pickle.load(file)

  只有一个参数 file ,对应于上面 dump 方法中的 file 参数。这个 file 必须是一个拥有一个能接收一个整数为参数的read() 方法以及一个不接收任何参数的 readline() 方法,并且这两个方法的返回值都应该是字符串。这可以是一个打开为读的文件对象、StringIO 对象或其他任何满足条件的对象。

  下面是一个基本的用例:

01# -*- coding: utf-8 -*-
02 
03import pickle
04# 也可以这样:
05# import cPickle as pickle
06 
07obj = {"a"1"b"2"c"3}
08 
09# 将 obj 持久化保存到文件 tmp.txt 中
10pickle.dump(obj, open("tmp.txt""w"))
11 
12# do something else ...
13 
14# 从 tmp.txt 中读取并恢复 obj 对象
15obj2 = pickle.load(open("tmp.txt""r"))
16 
17print obj2

  不过实际应用中,我们可能还会有一些改进,比如用 cPickle 来代替 pickle ,前者是后者的一个 C 语言实现版本,拥有更快的速度,另外,有时在 dump 时也会将第三个参数设为 True 以提高压缩比。再来看下面的例子:

01# -*- coding: utf-8 -*-
02 
03import cPickle as pickle
04import random
05import os
06 
07import time
08 
09LENGTH = 1024 * 10240
10 
11def main():
12    = {}
13    = []
14    for in range(LENGTH):
15        a.append(random.randint(0255))
16 
17    d["a"= a
18 
19    print "dumping..."
20 
21    t1 = time.time()
22    pickle.dump(d, open("tmp1.dat""wb"), True)
23    print "dump1: %.3fs" % (time.time() - t1)
24 
25    t1 = time.time()
26    pickle.dump(d, open("tmp2.dat""w"))
27    print "dump2: %.3fs" % (time.time() - t1)
28 
29    s1 = os.stat("tmp1.dat").st_size
30    s2 = os.stat("tmp2.dat").st_size
31 
32    print "%d, %d, %.2f%%" % (s1, s2, 100.0 * s1 / s2)
33 
34    print "loading..."
35 
36    t1 = time.time()
37    obj1 = pickle.load(open("tmp1.dat""rb"))
38    print "load1: %.3fs" % (time.time() - t1)
39 
40    t1 = time.time()
41    obj2 = pickle.load(open("tmp2.dat""r"))
42    print "load2: %.3fs" % (time.time() - t1)
43 
44 
45if __name__ == "__main__":
46    main()

  在我的电脑上执行结果为:

dumping...
dump1: 1.297s
dump2: 4.750s
20992503, 68894198, 30.47%
loading...
load1: 2.797s
load2: 10.125s

  可以看到,dump 时如果指定了 protocol 为 True,压缩过后的文件的大小只有原来的文件的 30% ,同时无论在 dump 时还是 load 时所耗费的时间都比原来少。因此,一般来说,可以建议把这个值设为 True 。

  另外,pickle 模块还提供 dumps 和 loads 两个方法,用法与上面的 dump 和 load 方法类似,只是不需要输入 file 参数,输入及输出都是字符串对象,有些场景中使用这两个方法可能更为方便。

转载于:https://my.oschina.net/taisha/blog/55441

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值