lesson-03线性回归作业

1.调整线性回归模型停止条件以及y=2*x+(5+torch.randn(20,1))中的斜率，训练一个回归模型

# author: ai
# 2023年09月14日
import torch
import matplotlib.pyplot as plt
torch.manual_seed(10)
lr = 0.05

x=torch.rand(200,1)*10
y=2*x+(5+torch.randn(200,1))

w = torch.randn((1), requires_grad=True)
b = torch.zeros((1), requires_grad=True)

for iteration in range(1000):

    # 前向传播
    wx = torch.mul(w, x)
    y_pred = torch.add(wx, b)

    # 计算 MSE loss
    loss = (0.5 * (y - y_pred) ** 2).mean()

    # 反向传播
    loss.backward()

    # 更新参数
    b.data.sub_(lr * b.grad)
    w.data.sub_(lr * w.grad)

    # 清零张量的梯度   20191015增加
    w.grad.zero_()
    b.grad.zero_()

    # 绘图
    if iteration % 20 == 0:

        plt.scatter(x.data.numpy(), y.data.numpy())
        plt.plot(x.data.numpy(), y_pred.data.numpy(), 'r-', lw=5)
        plt.text(2, 20, 'Loss=%.4f' % loss.data.numpy(), fontdict={'size': 20, 'color':  'red'})
        plt.xlim(1.5, 10)
        plt.ylim(8, 28)
        plt.title("Iteration: {}\nw: {} b: {}".format(iteration, w.data.numpy(), b.data.numpy()))
        plt.pause(0.5)

        if loss.data.numpy() < 0.6:
            break

2.计算图的两个主要概念是什么？

计算图是用来描述运算的有向无环图。
计算图有两个主要元素：结点(Node)和边(Edge)。
结点表示数据，如向量，矩阵，张量 边表示运算，如加减乘除卷积等。

3.动态图与静态图的区别？

Pytorch 是动态图，每一次训练，都会销毁图并重新创建，这样做花销很大，但是更加灵活。
而 Tensorflow 是静态图，一旦定义训练时就不能修改。