梯度下降是计算loss函数局部最小值,从而求解权重的算法。而反向传播可以快速计算梯度算子,也就是反向传播是梯度下降时的一种快速求偏导的算法。
CNN可以使用梯度下降,直接对各权重求偏导,而不使用反向传播算法,但计算量会非常大。
反向传播是梯度下降中的一种较快的算法
梯度下降是计算loss函数局部最小值,从而求解权重的算法。而反向传播可以快速计算梯度算子,也就是反向传播是梯度下降时的一种快速求偏导的算法。
CNN可以使用梯度下降,直接对各权重求偏导,而不使用反向传播算法,但计算量会非常大。
反向传播是梯度下降中的一种较快的算法