ice_martin的博客

牛顿法与梯度下降法martin牛顿法与梯度下降法 牛顿法与梯度下降算法的适用范围 牛顿法 一元函数二阶逼近 多元函数二阶逼近 梯度下降法牛顿法与梯度下降算法的适用范围 这两种算法都只能找到局部最小值，也就是说容易陷入局部最优。 两种算法都必须给出一个初始点。 牛顿法使用二阶逼近，梯度下降法使用一阶逼近。 牛顿法对局部凸的函数能找到极小值，对局部凹的函数能找到极大值，对局部不凸不凹的可能找到鞍点。 梯

极大似然估计martin极大似然估计 极大似然估计基本原理最大化似然函数 极大似然估计基本原理：最大化似然函数定义：假设样本{X1,X2,...Xn}\{X_1,X_2,...X_n\}服从概率密度函数fθ(x)f_\theta(x)。其中，θ=(θ1,θ2,...θk)\theta = (\theta_1,\theta_2,...\theta_k)是未知参数。当固定xx的时候fθ(x)f_\the