pytorch-13-激活函数&GPU加速&测试

最新推荐文章于 2025-08-25 19:15:50 发布

原创

最新推荐文章于 2025-08-25 19:15:50 发布 · 505 阅读

2 ·

CC 4.0 BY-SA版权

文章标签：

#pytorch #深度学习

本文介绍了PyTorch中激活函数的应用，特别是ReLU的改进版，并探讨了如何利用GPU进行深度学习模型的加速。通过示例代码展示了如何在GPU环境下运行模型。

激活函数与GPU加速&测试

1、激活函数
2、GPU加速

1、激活函数

在这里插入图片描述

很少用的激活函数：Relu改进版

2、GPU加速

在这里插入图片描述
代码如下

import  torch
import  torch.nn as nn
import  torch.nn.functional as F
import  torch.optim as optim
from    torchvision import datasets, transforms


batch_size=200
learning_rate=0.01
epochs=10

train_loader = torch.utils.data.DataLoader(
    datasets.MNIST('./data', train=True, download=True,
                   transform=transforms.Compose([
                       transforms.ToTensor(),
                       transforms.Normalize((0.1307,), (0.3081,))
                   ])