lbfgs 算法 是BFGS 算法的一个变种。
那么我们首先来看一下bfgs 算法的H 更新。
主要参考的博文是:
http://blog.youkuaiyun.com/itplus/article/details/21897715
1GB 的字节数的计算:
1GB简称1G 1G=1024MB,1MB=1024KB,1KB=1024字节(来源于百度百科)
所以作者的1GB 字节 为 1024 *1024*1024
由上面的博文我们可以知道 存储一个 10 万 *10万的double 型数据 需要B 的存储为74.5GB。很不可思议。

本文介绍了LBFGS算法,它是BFGS算法的一种变种。内容涉及BFGS算法的H矩阵更新,以及在存储优化上的策略,如只需存储对称矩阵的上三角或下三角部分来减少内存需求。此外,文章提到了在最速下降法、牛顿法、BFGS算法中关键的下降方向和搜索步长,特别是如何使用Wolf线搜索确定步长。文章以一个具体的例子说明了存储大量double型数据所需的内存,并预告了后续的推导过程。
最低0.47元/天 解锁文章
1812

被折叠的 条评论
为什么被折叠?



