小鲸鱼的天空

学习深度学习的原因 深度学习可以用更多的数据或是更好的算法来提高学习算法的结果。对于某些应用而言，深度学习在大数据集上的表现比其他机器学习（ML）方法都要好。 性能表现方面，深度学习探索了神经网络的概率空间，与其他工具相比，深度学习算法更适合无监督和半监督学习，更适合强特征提取，也更适合于图像识别领域、文本识别领域、语音识别领域等。 为什么深度学习会如此被热衷，因为它不以任何损失函数为特征，...

DL：深度学习（deep learning），整体上是一个layer-wise的训练机制 BP：反向传播算法（back propagation），采用迭代的算法来训练整个网络，随机设定初值，计算当前网络的输出，然后根据当前输出和label之间的差去改变前面各层的参数，直到收敛（整体是一个梯度下降法），缺点：对于一个deep network（7层以上），残差传播到最前面的层已经变得太小，出现所谓的...

各种库安装，搭建环境是进一步学习的基础 """ python3.6版本安装 """ tensorflow==1.5可以指定安装版本，目前TensorFlow更新到1.7，centos建议安装1.5版本，其余版本你的电脑可能不支持 # pip3 install --upgrade -i https://pypi.tuna.tsinghua.edu.cn/simple tensorflow==1...

tensorflow支持的数据类型：实数（tf.float32、tf.float64）、整数（tf.int8、tf.int16、tf.int32、tf.int64、tf.unit8）、布尔型（tf.bool）和复数（tf.complex64、tf.complex64） 卷积运算函数列举 # 以下两个卷积函数的区别：tf.layers.conv2d是对tf.nn.conv2d的一个封装，提供了...

神经元(Neuron)：是构成一个神经网络的最小单元 算法网络结构：传统前向传播算法FP和反向传播算法BP等都是全连接网络结构；深度学习算法CNN，DNN等都是局部连接网络结构 神经网络参数优化：一个最简单的神经元结构的输出就是所有输入的加权和，而不同输入的权重就是神经元的参数；神经元的优化过程就是优化神经元中参数取值的过程 隐藏层(Hidden Layers)：神经网络输入层和输出层中间的...