深度学习-Pytorch 入门学习

1、pytorch--自动求导

import torch
x = torch.randn(2,3,requires_grad=True)
x.grad

x.grad ----进行求导

b = torch.dot(x,x) -----x 的内积

调用反向传播函数来自动计算y关于每个分量的梯度

b.backward()
x.grad

梯度值代表的是函数在某一点的局部极值，具体来说，它是由函数在该点的方向导数所确定的方向，并且在这个方向上函数的导数取得了最大值。梯度的模定义为沿着该梯度的方向变化最快的速度，也就是函数在该点处沿着该方向变化最快、变化率最大的部分。梯度反映了函数在该点的变化趋势及其最大值所在的方向。在实际应用中，梯度可以用来寻找函数的最大值或最小值，也可以用来描述曲面的倾斜程度

[Pytorch函数].requires_grad固定部分参数进行网络训练_读取模型时requires_grad设置

param.grad、requires_grad、grad_fn、grad/梯度为None？_检查参数所在的类,是否加入了optimal的优化参数序列中.-优快云博客