pytorch（三）反向传播

@@老胡

已于 2024-04-10 11:16:06 修改

阅读量725

点赞数 8

CC 4.0 BY-SA版权

分类专栏： python 文章标签： pytorch 人工智能 python

于 2024-01-23 11:10:17 首次发布

本文链接：https://blog.youkuaiyun.com/CodePlayMe/article/details/135749027

本文详细介绍了神经网络中的反向传播算法，包括其目的（权重更新）和过程，以及如何利用张量的广播机制处理不同形状的数据。文中还强调了激活函数在非线性建模中的作用。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

文章目录

- 反向传播
- tensor的广播机制

反向传播

前馈过程的目的是为了计算损失loss

反向传播的目的是为了更新权重w，这里权重的更新是使用随机梯度下降来更新的。

前馈过程

在这里插入图片描述
反馈过程

在这里插入图片描述

import torch
x_data=[1.0,2.0,3.0]
y_data=[2.0,4.0,6.0]

w=torch.Tensor([1.0])
# 表示需要计算梯度，默认不需要计算梯度
w.requires_grad=True

def forward(x):
    return x*w # w是tensor类型，则运算会被重载成tensor之间的运算，x会被自动类型转换为tensor类