前馈神经网络
前馈神经网络(feedforward neural network)是一种简单的神经网络,也被称为多层感知机(multi-layer perceptron,简称MLP),其中不同的神经元属于不同的层,由输入层-隐藏层-输出层构成,信号从输入层往输出层单向传递,中间无反馈,其目的是为了拟合某个函数。
MLP感知器网络
多层感知器(Multi-Layer Perceptron,MLP)是一种前馈神经网络,广泛应用于深度学习领域。它由至少一个输入层、一个或多个隐藏层以及一个输出层组成。每一层包含多个神经元,这些神经元通过激活函数引入非线性,使得网络能够学习复杂的非线性函数。MLP的训练通常采用反向传播算法(Backpropagation)和梯度下降法,通过调整网络中的权重和偏置来最小化预测误差。如图就是一个三层的感知机
在MLP中,输入数据首先通过输入层,然后逐层传递到隐藏层,最后到达输出层。在每一层,神经元的输出是上一层所有神经元输出的加权和,加上一个偏置项,然后通过激活函数进行非线性变换。这个过程称为前向传播。通过反向传播算法,网络可以计算损失函数对每个参数的梯度,并据此更新权重和偏置,以改善模型的预测性能。
BP神经网络
BP神经网络(Backpropagation Neural Network)是一种多层前馈神经网络,它通过误差反向传播算法进行训练&#