condition number:特征值最大比。几何意义上,特征值是缩放比例,比值越大,空间越扁平,梯度越大。这种情况称作ill or pool。
术语:objective function, loss function, cost function, error function, criterion.
梯度:Jacobian,Hession matrics
本文深入探讨了条件数的概念,即特征值的最大比,解释了其在几何意义下的作用——特征值作为缩放比例,条件数越大,空间越扁平,梯度也越大,这会导致优化过程中的困难。同时,文章还介绍了目标函数、损失函数、代价函数、误差函数等术语,并提及了梯度计算中的Jacobian矩阵和Hessian矩阵。
condition number:特征值最大比。几何意义上,特征值是缩放比例,比值越大,空间越扁平,梯度越大。这种情况称作ill or pool。
术语:objective function, loss function, cost function, error function, criterion.
梯度:Jacobian,Hession matrics

被折叠的 条评论
为什么被折叠?