目标函数与梯度下降

概念

目标函数，也叫损失函数，用于衡量模型的预测结果与实际结果之间的差异程度，目标函数的值越小，模型的预测就越准确。

梯度下降是一种优化目标函数的迭代算法。

算法步骤

1. 对目标函数中的每个参数求导（求梯度）

2. 对参数随机赋值

3. 带入梯度

4. 计算步长

5. 更新参数

6. 回到步骤3重复，知道步长小于设置阀值

举例说明