pytorch tips

本文介绍了PyTorch中数据导入的步骤,包括使用torch.utils.data.Dataset和DataLoader,以及数据预处理的transform操作。接着讲解了模块导入,如torchvision.models、torch.nn和torch.optim。在训练部分,详细阐述了训练过程,包括更新学习率、前向传播、计算损失、反向传播和参数更新。文章最后提到了一些训练时的注意事项,如避免多线程数据加载和正确处理损失值。

一、数据导入部分
torch.utils.data.Dataset,这是一个抽象类,在pytorch中所有和数据相关的类都要继承这个类来实现。
torchvision.datasets.ImageFolder接口实现数据导入。torchvision.datasets.ImageFolder会返回一个列表(比如image_datasets[‘train’]或者image_datasets[‘val]),列表中的每个值都是一个tuple,每个tuple包含图像和标签信息。列表list是不能作为模型输入的,因此在PyTorch中需要用另一个类来封装list,那就是:
torch.utils.data.DataLoader,它可以将list类型的输入数据封装成Tensor数据格式,以备模型使用。这里是对图像和标签分别封装成一个Tensor。
data_transforms是一个字典。主要是进行一些图像预处理,比如resize、crop等。实现的时候采用的是torchvision.transforms模块,比如torchvision.transforms.Compose是用来管理所有transforms操作的,torchvision.transforms.RandomSizedCrop是做crop的。需要注意的是对于torchvision.transforms.RandomSizedCrop和**transforms.RandomHorizontalFlip()**等,输入对象都是PIL Image,也就是用python的PIL库读进来的图像内容,而transforms.Normalize([0.5, 0.5, 0.4], [0.2, 0.2, 0.5])的作用对象需要是一个Tensor,因此在transforms.Normalize([0.5, 0.5, 0.4], [0.2, 0.2, 0.5])之前有一个
**transforms.ToTensor()**就是用来生成Tensor的。另外tr

### 使用Visdom进行PyTorch项目的可视化 为了在PyTorch项目中集成并使用Visdom进行数据和模型训练过程的实时监控与可视化,需先安装Visdom服务器以及相应的客户端库。具体操作如下: #### 安装Visdom服务端和客户端 通过pip可以方便地完成安装工作: ```bash pip install visdom ``` 启动Visdom服务器可以通过命令行执行以下语句来实现: ```bash python -m visdom.server ``` 这将在本地8097端口上运行一个Web应用,默认情况下可通过浏览器访问`http://localhost:8097`查看可视化界面。 #### 初始化Visdom环境并与PyTorch连接 在Python脚本或者Jupyter Notebook环境中引入visdom模块,并创建一个新的Visdom实例用于后续绘图和其他交互功能。 ```python import torch from visdom import Visdom viz = Visdom() assert viz.check_connection(), '无法连接到Visdom服务器' ``` #### 创建简单的折线图展示损失函数变化趋势 下面的例子展示了如何记录每次迭代后的loss值,并将其绘制为一条随时间更新的曲线。 ```python # 假设这是来自训练循环中的某次迭代得到的结果 iteration = 0 loss_value = some_computed_loss.item() if iteration == 0: win = viz.line( X=torch.tensor([iteration]), Y=torch.tensor([loss_value]), opts=dict(title='Training Loss') ) else: viz.line( X=torch.tensor([iteration]), Y=torch.tensor([loss_value]), update='append', win=win ) iteration += 1 ``` 除了基本的折线图外,Visdom还支持多种类型的图表形式,比如散点图、热力图等,可以根据实际需求灵活运用这些工具来进行更丰富的数据分析和呈现[^1]。 #### 结合Seaborn探索性分析 对于复杂的数据集,还可以考虑结合seaborn这样的高级统计图形库来做一些初步的数据理解工作,然后再利用Visdom做动态跟踪。 ```python import seaborn as sns sns.set_theme(style="whitegrid") tips = sns.load_dataset("tips") ax = sns.barplot(x="day", y="total_bill", data=tips) # 将Matplotlib图像转换成numpy数组以便于发送给Visdom显示 fig = ax.get_figure() fig.canvas.draw() image_from_plot = np.frombuffer(fig.canvas.tostring_rgb(), dtype=np.uint8) image_from_plot = image_from_plot.reshape(fig.canvas.get_width_height()[::-1] + (3,)) viz.image(image_from_plot.transpose(2, 0, 1), opts={'title': 'Tips Dataset Analysis'}) plt.close(fig) # 关闭不再使用的Figure对象以释放资源 ``` 上述方法不仅限于处理静态图片;也可以用来定期抓取当前状态下的任意matplotlib/seaborn生成的内容作为训练进度的一部分持续更新至Visdom面板之上[^3]。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值