铭霏的记事本

最速下降：实在没什么好说的，,until 共轭梯度：区别在于方向限制在初始点的共轭方向空间内 随机梯度：相对上面两者每次用所有样本计算下降方向，每次随机选1个或batch个样本 牛顿法：二阶Talor展开，方向 pseudo-Newton (BFGS为例)：，， (未完,待补充整理)

机器学习算法中经常碰到非线性优化问题，如 Sparse Filtering 算法，其主要工作在于求解一个非线性极小化问题。在具体实现中，大多调用的是成熟的软件包做支撑，其中最常用的一个算法是 L-BFGS。为了解这个算法的数学机理，这几天做了一些调研，现把学习过程中理解的一些东西整理出来。 目录链接 (1) 牛顿法 (2) 拟牛顿条件 (3

机器学习算法中经常碰到非线性优化问题，如 Sparse Filtering 算法，其主要工作在于求解一个非线性极小化问题。在具体实现中，大多调用的是成熟的软件包做支撑，其中最常用的一个算法是 L-BFGS。为了解这个算法的数学机理，这几天做了一些调研，现把学习过程中理解的一些东西整理出来。 目录链接 (1) 牛顿法 (2) 拟牛顿条件 (3

机器学习算法中经常碰到非线性优化问题，如 Sparse Filtering 算法，其主要工作在于求解一个非线性极小化问题。在具体实现中，大多调用的是成熟的软件包做支撑，其中最常用的一个算法是 L-BFGS。为了解这个算法的数学机理，这几天做了一些调研，现把学习过程中理解的一些东西整理出来。 目录链接 (1) 牛顿法 (2) 拟牛顿条件 (3

机器学习算法中经常碰到非线性优化问题，如 Sparse Filtering 算法，其主要工作在于求解一个非线性极小化问题。在具体实现中，大多调用的是成熟的软件包做支撑，其中最常用的一个算法是 L-BFGS。为了解这个算法的数学机理，这几天做了一些调研，现把学习过程中理解的一些东西整理出来。 目录链接 (1) 牛顿法 (2) 拟牛顿条件 (3

机器学习算法中经常碰到非线性优化问题，如 Sparse Filtering 算法，其主要工作在于求解一个非线性极小化问题。在具体实现中，大多调用的是成熟的软件包做支撑，其中最常用的一个算法是 L-BFGS。为了解这个算法的数学机理，这几天做了一些调研，现把学习过程中理解的一些东西整理出来。 目录链接 (1) 牛顿法 (2) 拟牛顿条件 (3

摘自：https://www.cnblogs.com/bonelee/p/7126144.html 一，基于矩阵分解的推荐算法相关理论介绍 我们知道，要做推荐系统，最基本的一个数据就是，用户-物品的评分矩阵，如下图1所示 图1 矩阵中，描述了5个用户(U1,U2,U3,U4 ,U5)对4个物品(D1,D2,D3,D4)的评分(1-5分)，- 表示没有评分，...

https://zhuanlan.zhihu.com/p/27449596

https://mp.weixin.qq.com/s/xm4MuZm-6nKTn2eE3eNOlg