pytorch笔记

最新推荐文章于 2024-08-16 08:32:01 发布

原创最新推荐文章于 2024-08-16 08:32:01 发布 · 363 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#深度学习

pytorch 专栏收录该内容

2 篇文章

订阅专栏

本文详细介绍了PyTorch框架中的关键模块，包括优化器如批量梯度下降(BGD)、随机梯度下降(SGD)和小批量梯度下降(MBGD)，以及Adam算法。探讨了损失函数如均方误差(MSELoss)、负对数似然损失(NLLLoss)和二元交叉熵损失(BCELoss)等。同时，文章还覆盖了PyTorch中常见的神经网络层，如线性层(Linear)、激活函数(Sigmoid, ReLU)和模型模块(Module)。此外，还讲解了如何使用PyTorch进行GPU计算、数据加载和预处理。

PyTorch Docs

1、torch

torch.optim

BGD(): batch gradient descent
SGD(): stochastic gradient descent
MBGD(): mini-batch gradient descent
Adam()

torch.nn

MESLoss(): mean square error，均方误差
NLLLoss(): Negative Log Likelihood Loss
BCELoss(): Binary Cross Entropy Loss
```
		BCELoss(x, y)
```
$-\frac 1 n\sum(y_n \times \ln x_n+(1-y_n) \times \ln(1-x_n))$
BCEWithLOgitsLoss
CrossEntropyLoss():
Linear()
Sigmoid()
relu()
Module