weixin_43496455的博客

AttributeError: module ‘tensorflow’ has no attribute ‘Session’ 这个报错真的搞了我好久，最后才发现是！！python和tensorflow的版本不对应导致的！！！ 我用的python3.6，然后下的tensorflow是2.0版本，事实上这样是行不通的。 二者对应版本参见链接： 官方网站：https://pypi.org/project...

提高神经学习的学习效率 并行计算 可以使用GPU进行并行计算，以此提高学习效率。 梯度消失问题 梯度消失问题的存在使得学习效率会变慢，出现梯度消失的原因如下： 其中，对sigmoid函数求导的时候，在[-4, 4]的范围外会发生导数很小，接近于0的情况，进而导致学习的梯度消失。 改进的思路 归一化 因为数据度量的量纲可能不同，所以需要对数据进行归一化处理。 归一化的效果如图： 参数初...

BP网络——前馈神经网络 （Back Propgation Networks） 本文将实现一个最简单的三层神经网络 其中，损失函数是线性函数，激励函数是sigmoid函数。 代码的实现中，采用的是随机梯度下降法。 计算导数的方法可以参考图片，有兴趣的小伙伴可以参考，自行推导： 随机梯度下降法的原理 代码如下所示： #!/user/bin/env python3 # -*- coding:...