- 博客(3)
- 资源 (2)
- 收藏
- 关注
原创 优化方法总结比较(SGD,Momentum,Nesterov,Adagrad,Adadelta,RMSprop,Adam,Adamax,Nadam,DFP,BFGS)
随机梯度下降法Batch Gradient Descent在每一轮的训练过程中,BGD算法用整个训练集的数据计算loss的梯度,并用该梯度对模型参数进行更新:θt+1=θt+Δθ,Δθ=−η∗gt\theta_{t+1}=\theta_{t}+\Delta\theta, \Delta\theta=-\eta * g_{t}θt+1=θt+Δθ,Δθ=−η∗gt 优点loss若为凸函...
2020-04-08 01:06:20
848
1
原创 CUDA是什么-CUDA简介
在大家开始深度学习时,几乎所有的入门教程都会提到CUDA这个词。那么什么是CUDA?她和我们进行深度学习的环境部署等有什么关系?通过查阅资料,我整理了这份简洁版CUDA入门文档,希望能帮助大家用最快的时间尽可能清晰的了解这个深度学习赖以实现的基础概念。本文在以下资料的基础上整理完成,感谢以下前辈提供的资料:CUDA——“从入门到放弃”我的CUDA学习之旅——启程介绍一篇不错的CUDA入门博...
2020-03-10 11:15:18
54464
5
原创 Python pygraphviz 安装方法
查阅了千百篇文章和教程,终于在自己的电脑上安装好了pygraphviz,下面把安装过程记录一下。1.安装graphviz, http://www.graphviz.org/pub/graphviz/stable/windows/graphviz-2.28.0.msi。我将它安装到了我的E盘之下。 2.下载pygraphviz源码包, http://pypi.python.org/packa
2015-07-28 23:25:48
3513
CVX users' guide
2013-07-31
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人