本文详细介绍了27种神经网络，包括感知机、前馈神经网络、RBF网络、深度前馈网络、递归神经网络、LSTM、GRU、自动编码器、变分自编码器、降噪自动编码器、稀疏自编码器、马尔可夫链、霍普菲尔网络、波尔滋曼机、限制型波尔滋曼机、深度信念网络、深度卷积网络、去卷积网络、深度卷积反转图像网络、生成对抗网络、液体状态机、极端学习机、回声状态网络、深度残差网络、Kohonen神经网络和支持向量机。每种网络的特点和应用场景均有阐述。
27种？！神经网络竟有那么多种？这篇文章将逐一介绍下面这张图片中的27种神经网络类型，并尝试解释如何使用它们。准备好了吗？让我们开始吧！
神经网络的种类越来越多，可以说是在呈指数级地增长。我们需要一个一目了然的图表，在这些新出现的网络构架和方法之间进行导航。
幸运的是，来自Asimov研究所的Fjodor van Veen编写了一个关于神经网络的精彩图表（就是上面那张大图）。
下面，我们就来逐一看看图中的27种神经网络：
Perceptron 感知机
Perceptron 感知机，我们知道的最简单和最古老的神经元模型。接收一些输入，把它们加总，通过激活函数并传递到输出层。这没什么神奇的地方。
前馈神经网络（FF）
前馈神经网络（FF），这也是一个很古老的方法——这种方法起源于50年代。它的工作原理通常遵循以下规则：
- 所有节点都完全连接
- 激活从输入层流向输出，无回环
- 输入和输出之间有一层（隐含层）
在大多数情况下，这种类型的网络使用反向传播方法进行训练。
RBF 神经网络
RBF 神经网络实际上是激活函数是径向基函数而非逻辑函数的FF前馈神经网络（FF）。两者之间有什么区别呢？
逻辑函数将某个任意值映射到[0 ,... 1]范围内来，回答“是或否”问题。适用于分类决策系统，但不适用于连续变量。
相反，径向基函数能显示“我们距离目标有多远”。 这完美适用于函数逼近和机器控制（例如作为PID控制器的替代）。
简而言之，这些只是具有不同激活函数和应用方向的前馈网络。
DFF深度前馈神经网络
DFF深度前馈神经网络在90年代初期开启了深度学习的潘多拉盒子。这些依然是前馈神经网络，但有不止一个隐含层。那么，它到底有什么特殊性？
在训练传统的前馈神经网络时，我们只向上一层传递了少量的误差信息。由于堆叠更多的层次导致训练时间的指数增长，使得深度前馈神经网络非常不实用。直到00年代初，我们开发了一系列有效的训练深度前馈神经网络的方法; 现在它们构成了现代机器学习系统的核心，能实现前馈神经网络的功能，但效果远高于此。
RNN递归神经网络
最低0.47元/天 解锁文章
扫一扫
4387
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
