神经网络初步学习

最近看了一门简短的网课
感谢Eric

从起源开始
在多方面的作用下，包括大环境下二进制的创新、软硬件的升级以及人类劳动力的性价比等种种的变化
可以要求我们的计算机掌握部分人类的能力
实质上是通过一个分类识别的函数对输入进行识处理，再进行输出
归根结底就是一个判断的过程
输入也包括图像、语音以及文本
如此衍生出来的便有自动驾驶技术、语音助手以及各式各样的新闻推送
PS：文本与图像语音这些笔记型矩阵不同，它属于稀疏性矩阵

我们从神经网络的概念，了解到神经网络的脉络：网络结构，激励函数，损失，梯度下降

首先是网络结构，可以说是结点与层的概念：输入、隐含层、输出层以及预测值
层数越多，便会对结果进行反复不断地剖析与分析，对结果进行修正。
而中间最简单的一个神经元，如下图：
左半边为一个线性函数，右边为激励函数：负责将线性函数的结果转为非线性，即提供规模化的非线性能力
常用的神经元包括sigmoid、tanh、Relu。其中最后为最常用的。
前二中的缺点为非堆成、数据中心化，需要平移使他们做到中心对称，比如当数据去向太大或者太小是，运算的效率会非常地下

还有损失函数：

loading……