保存torch.tensor和numpy.array的利器——HDF5实用代码

本文介绍了在Python编程中,如何利用HDF5替代pickle和cpickle+gzip来高效地保存和存储torch.tensor及numpy.array。HDF5提供了更好的长期存储解决方案,避免了pickle因代码环境变化导致的数据不可用问题。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

在写python代码的时候,常常需要将python的对象序列化为字节流,或者保存到文件、存到数据库,或者通过网络传输。

一种常见的方法就是用pickle,这是python自有的数据编码方式,可以将待序列化的对象的所有数据信息都序列化为字节流,并且可以完美反序列化,当然前提是所有所需的源文件都是可用且相同的。pickle反序列化会自动加载模块并创建实例,所以一旦代码环境改变,就会导致pickle保存下来对数据不可用了。所以不适合用来长时间存储。

另外,对于array和numpy.array而言,pickle实在是太蠢了。有人会用cpickle+gzip的方式对数组进行高效存储和压缩,但了解了HDF5编码的存储,你不会再想要用pickle(s)保存数组了。

import h5py

def load_hdf5(infile, keys):
	"""
	Load hdf5 file to dict with arrays.
	Args:
	  infile: str, name of hdf5 file
	  keys: tuple/list, keys in hdf5 dataset  
	Return:
	  dict, <key, value> in hdf5 file
	"""
	with h5py
def get_samples(is_split=True): # 设置随机种子,保证结果可复现 random.seed(42) np.random.seed(42) # 1. 加载数据 #features = np.load(features_path) # 假设形状为 (n_samples, ...) #labels = np.load(labels_path) # 假设形状为 (n_samples,) #sns = np.load(sns_path) # 假设形状为 (n_samples,),每个元素是磁盘SN with h5py.File(samples_path, 'r') as file: features = np.array(file['features']) # 读取数据 labels = np.array(file['labels']) sns = np.array(file['sns']) if is_split == False: return features, labels # 2. 获取所有唯一的SN并打乱顺序 unique_sns = np.unique(sns) random.shuffle(unique_sns) # 随机打乱SN顺序 # 3. 按8:2比例划分SN(训练集80%,测试集20%) split_idx = int(len(unique_sns) * 0.8) train_sns = set(unique_sns[:split_idx]) # 训练集使用的SN test_sns = set(unique_sns[split_idx:]) # 测试集使用的SN # 4. 根据SN筛选样本 # 生成训练集测试集的掩码(布尔数组) train_mask = np.array([sn in train_sns for sn in sns]) test_mask = np.array([sn in test_sns for sn in sns]) # 筛选样本 train_features = features[train_mask] train_labels = labels[train_mask] test_features = features[test_mask] test_labels = labels[test_mask] X_train = torch.tensor(train_features, dtype=torch.float32) X_test = torch.tensor(test_features, dtype=torch.float32) y_train = torch.tensor(train_labels, dtype=torch.float32) y_test = torch.tensor(test_labels, dtype=torch.float32) return X_train, X_test, y_train, y_test 我要返回的是X_train, X_test, y_train, y_test
最新发布
08-03
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值