Pytorch自定义数据集 ImageNet

本文介绍了如何在PyTorch中使用ImageFolder和自定义Dataset来处理ImageNet数据集,包括数据集结构的要求,以及如何解决数据类型不匹配的问题。重点讲解了使用ImageNet100子集的代码示例和遇到的常见问题解决方法。
由于Pytorch不支持内置的ImageNet数据集,因此我们需要自定义数据集。有两种方式

1、使用ImageFolder

ImageFolder需要数据集有良好的结构,train和test下分别包含相同类别的文件夹,每个文件夹存放一类图像,也就是这样

——ImageNet
  ——train
  	——cls1
  		——cls1_00.jpg
  		——cls1_01.jpg
  		...
  		——cls1_59.jpg
  	——cls2
  	——clsn
  ——test
  	——cls1
  		——cls1_60.jpg
  		——cls1_61.jpg
  		...
  		——cls1_100.jpg
  	——cls2
  	——clsn

此时把.../ImageNet/train 或者 .../ImageNet/test/ 当作imagenet_root传入ImageFolder即可

from torchvision.datasets import ImageFolder
imagenet_train = ImageFolder(imagenet_root, transform=transform_imagenet_train)
train_iter= DataLoader(imagenet_train, batch_size=batch_size, shuffle=True, num_workers=num_workers,
                               pin_memory=True)

2、使用自定义的数据集

当我们使用Dataset 时,必须定义__init____getitem__以及__len__三个成员函数。

  • __init__ :初始化,进行数据集的准备工作
  • __len__ :返回数据集的大小
  • __getitem__:根据索引(必要的参数)从数据集中提取数据。索引的大小为[0,self.__len__())

下面是从ImageNet全集中随机挑选100类(当然也可以任意指定数量)的代码,可以保存每一次都选取了哪些类用作训练。使用子集训练的原因是进行有效性实验,以及计算资源的限制。

# ImageNet100.py
from torch.utils.dat
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值