Toby的博客

写在前面：翻译自经典的梯度下降法的总结文章An overview of gradient descent optimization algorithms

近期工作中遇到了求解最优化问题的业务场景，所以学习了下CVXPY，专门用来求解最优化问题的工具。个人觉得cvxpy还是很强大的，极大的减少了coding的代码，调用也方便，非常实用。CVXPY导航手册第一步，先安装cvxpy。我的电脑是MAC，安装是按照 Install from source 引导的从git上clone下来，然后找到文件路径，使用pip install .安装的。直接使用pip或conda都不能安装成功，那似乎只合适windows电脑。当然，安装前你应该检查下cv.

来自：程序员书库（ID：CodingBook）书单来自：https://levelup.gitconnected.com/6-super-cool-websites-for-practicing-algorithms-learning-programming-4cda65a64b7e最近一位有着15年经验的老程序员和我们他认为最酷的6个学习编程/算法的网站，以下为他的博客原文：我是一位拥有15年工作经验的程序员，从高中毕业的第一年就开始学习算法，毕业之后出国留学，便走上了算法研究道路。.

原文： 一文读懂L-BFGS算法原文链接：https://blog.youkuaiyun.com/weixin_39445556/article/details/84502260L-BFGS算法：有限内存中进行BFGS算法,L是limited memory的意思.BFGS是四位数学家名字的首字母缩写，Broyden,Fletcher,Goldfarb,Shanno.所以算法的名字就叫做BFGS算法牛顿法求根问题 牛顿法求函数的驻点 牛顿法求驻点的本质 BFGS算法 L-BFGS算法牛顿法求根问题