Pytorch梯度下降——up主：刘二大人《PyTorch深度学习实践》

不吃水果的太空人

已于 2023-03-29 20:03:23 修改

阅读量377

点赞数

分类专栏： Pytorch学习笔记文章标签： pytorch python 深度学习

于 2023-03-29 17:42:45 首次发布

本文链接：https://blog.youkuaiyun.com/weixin_44223180/article/details/129841758

版权

Pytorch学习笔记专栏收录该内容

10 篇文章

订阅专栏

该教程介绍了如何使用Python进行简单线性回归模型的训练，通过梯度下降法更新权重参数w，以最小化损失函数。文章提供了具体的代码示例，展示了一个从定义模型到计算损失和梯度，再到优化过程的完整流程。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

教程： https://www.bilibili.com/video/BV1Y7411d7Ys?p=2&vd_source=715b347a0d6cb8aa3822e5a102f366fe
数据集：
$x_{data} = [1.0, 2.0, 3.0] \\y_{data} = [2.0, 4.0, 6.0]$
参数：
$w_{list} = [0.0, 4.0, 0.1]\\b_{list} = [-2.0, 2.1, 0.1]$
模型：
$y = w * x$

import numpy as np
import matplotlib.pyplot as plt
from mpl_toolkits.mplot3d import Axes3D
x_data = [1.0, 2.0, 3.0]
y_data = [2.0, 4.0, 6.0]
epoch_log = []
cost_log = []
#随机化参数
w = 1.0

def forward(x):
  return x * w

#定义损失函数
def loss(xs, ys):
  cost = 0
  for x,y in zip(xs, ys):
    y_pred = forward(x)
    cost += (y_pred - y) **2
  return cost / len(xs)

def gradient(xs, ys):
  grad = 0
  for x, y in zip(xs, ys):
    grad += 2 * x * (x * w - y)
  return grad / len(xs)

for epoch in range(100):
  cost_val = loss(x_data, y_data)
  cost_log.append(cost_val)
  grad_val = gradient(x_data, y_data)
  epoch_log.append(epoch)
  w -= 0.01 * grad_val
  print('Epoch:', epoch, 'w =', w, 'loss =', cost_val)

plt.figure()
plt.plot(epoch_log, cost_log, c='b')
plt.xlabel('Epoch')
plt.ylabel('Cost')
plt.show()

在这里插入图片描述