深度学习-梯度下降算法代码实现

原创于 2022-05-27 07:24:04 发布 · 642 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#深度学习 #算法 #人工智能

本文通过一个简单的线性回归示例介绍了如何使用梯度下降法来调整权重参数以最小化损失函数。示例中定义了前向传播、成本计算及梯度计算等函数，并通过迭代更新权重来实现模型训练。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

x_data = [1.0, 2.0, 3.0]
y_data = [2.0, 4.0, 6.0]
 
w = 1.0

def forward(x):
    return x * w
 
def cost(xs, ys):
    cost = 0
    for x, y in zip(xs, ys):
        y_p = forward(x)
        cost += (y_p - y) ** 2
    return cost / len(xs)
    
def gradint(xs, ys):
    grad = 0
    for x, y in zip(xs, ys):
        grad += 2 * x * (x * w - y)
    return grad / len(xs)
for epoch in range(100):
    cost_val = cost(x_data, y_data)
    grad_val = gradint(x_data, y_data)
    w -= 0.01 * grad_val
plt.plot(w_list,mse_list)
plt.ylabel('Loss')
plt.xlabel('w')
plt.show()

在这里插入图片描述