Pytorch常见函数
1.图像和视觉处理
torchvision.transforms.Resize() | 改变图像大小 |
torchvision.transforms.Normalize() | 标准化图像数据 |
torchvision.datasets | 提供常见的图像数据集加载接口 |
2.神经网络构建
torch.nn.Linear() | 全连接层 |
torch.nn.Conv2d() | 2D卷积层 |
torch.nn.MaxPool2d() torch.nn.AvgPool2d() | 最大池化 平均池化 |
torch.nn.ReLU() torch.nn.Sigmoid() | ReLU激活函数 Sigmoid激活函数 |
3.训练和优化
torch.optim.Adam() torch.optim.SGD() | 常见的优化器 |
torch.autograd.backward() | 自动计算梯度 |
4.模型保存和加载
torch.save() torch.load() | 用于和加载模型或张量 |
5.函数式接口
torch.nn.functional | 提供了一系列函数式的API,如用于ReLU激活的torch.nn.funtional.relu() |
6.数据处理和转换
torch.tensoer() | 创建一个张量 |
torch.zeros() torch.ones() | 创建全0张量 创建全1张量 |
torch.randn() | 创建正态分布的张量 |
torch.from_numpy() | 将Numpy数组转化为张量 |
torch,mean() torch.std() torch.var | 均值 标准差 方差 |
7.高级数据处理和转换
torch.index_select() | 按指定维度和索引选择数据 |
torch.masked_select() | 根据布尔掩码选择元素 |
torch.add() torch.mul() torch.div() | 加 + 减 - 除 ÷ |
torhc.matmul() | 张量的矩阵乘法 |
8.模型分析和调试
torch.autograd.gradcheck() | 用于检查梯度的正确性 |
troch.autograd.profiler.profile() | 性能分析工具(用于分析模型的时间和内存消耗) |
torchviz | 一个非官方的可视化工具,用于绘制模型的计算图 |
9.高级网络构建
troch.nn.LSTM() | 长短期记忆网络层 |
torch.nn.GRU() | 门控循环单元层 |
torch.autograd.function | 用于创建自定义的可微分操作 |
torch.nn.Module | 自定义网络层或整个模型的基类 |
10.优化和调参
torch.optim.Ir_scheduler | 学习率调度器,用于调整学习率 |
torch.optim.RMSprop | RMSprop优化器,常用于训练RNN |
11.特殊用途函数和使用工具
torch.distributed | 支持分布式训练的模块 |
torch.no_grad() | 禁用梯度计算(模型评估和推理时使用) |
12.高级数学和统计函数
torch.exp() torch.log() | 指数运算 对数运算 |
torch.sin() torch.cos() | 三角函数 |