深度学习笔记
关注
分享
扫一扫
文章平均质量分 95
深度学习笔记
初雪与你
世事静方见，人情淡始长
展开
-
为什么神经网络需要非线性激活函数
生物神经网络启发了人工神经网络的发展，在了解为什么神经网络需要非线性激活函数之前，理解生物神经网络的工作原理对我们是有帮助的。一个典型的生物神经元的物理结构包括细胞体、树突、轴突。树突具有接受刺激并将冲动传入细胞体的功能，细胞体具有联络和整合输入信息并传出信息的作用，轴突的主要功能是将神经冲动由细胞体传至其他神经元。神经元通过树突接收来自其他神经元的信号，来自树突的信号在细胞体中积累，如果...原创 2019-12-09 17:07:52 · 3355 阅读 · 0 评论 -
二元分类(Binary Classfication)与logistic回归
目录二元分类Logistic回归成本函数梯度下降logistic回归中的梯度下降向量化python代码二元分类二元分类是监督学习中分类问题的基本应用。监督学习通俗来讲就是训练集拥有正确的标签，例如你想根据房子的尺寸、卧室数等特征预测房价，那么你的训练集中除了有房子的特征以外，还得有这些房子的实际交易价格。与监督学习相对的是无监督学习，无监督学习中的训练集没...原创 2019-12-07 11:34:47 · 14380 阅读 · 2 评论 -
神经网络的参数为什么不能初始化为全零
训练神经网络时，随机初始化权重非常重要。对于Logistic回归，可以将权重初始化为零，但如果将神经网络的各参数全部初始化为0，再使用梯度下降法，这样将会完全无效。如图所示，这是一个简单的两层神经网络(输入层是第0层)，如果将所有的w矩阵和b向量都初始为全0则矩阵 是 是 是 将偏置项b初始化为0实际上是可行的，但把W初始化成全零就成问题了，它的问题在于给神经网络输入任...原创 2019-11-14 22:59:53 · 4347 阅读 · 2 评论