神经网络杂谈
关注
分享
扫一扫
onexming
这个作者很懒，什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
神经网络中固定每层权重方差的作用
控制输入，防止数值的剧烈变化方差的相关性质 两个随机变量相乘后的方差 经过变化得到 在这个等式中，x输入可以近似的看成是一个不变的常数，而D(y)又完全由权重初始化稳定控制为一个常数，所以输出的方差就完全决定于权重的平均数，优化过程中平均数一般变化比较稳定，所以输出值方差稳定。如果不控制权重的方差，在网络的不断传播中，一方面可能导致方差不断增大，输出值不断增大，导致产...原创 2018-10-05 18:02:17 · 1885 阅读 · 0 评论 -
sess.run()调用次数与效率的关系
一般来说, sess.run()的调用往往是tensorflow最大的瓶颈之一,因此用它的次数越少越好, 如果可以的话,再一个sess.run()的调用中放回多个项目,而不是进行多个调用...原创 2018-10-05 18:06:59 · 1820 阅读 · 0 评论