4、感知器神经网络与蚁狮优化器在多层感知器训练中的应用

感知器神经网络与蚁狮优化器在多层感知器训练中的应用

1. 前馈神经网络与多层感知器

前馈神经网络（FFNNs）是一类备受认可的基于人工神经网络（ANN）的神经模型，凭借其先进的并行分层结构，能够实现和逼近复杂模型。FFNNs 的基本处理单元是一系列神经元，这些神经元分布在多个全连接的负载层中。多层感知器（MLP）是 FFNNs 的一个广泛应用示例。

在 MLP 中，初始处理元素按单向方式排列。信息的传递基于输入层、隐藏层和输出层这三种匹配层之间的通信。以下是 MLP 网络中神经元的计算步骤：
1. 求和函数 ：通过输入值、权重值和偏置值的乘积求和得到，公式如下：
[S_j = \sum_{i=1}^{n} \omega_{ij}I_i + \beta_j]
其中，(n) 表示输入的总数，(I_i) 是输入变量 (i)，(\beta_j) 是偏置值，(\omega_{ij}) 表示连接权重。
2. 激活函数 ：根据求和函数的结果激活，常用的激活函数是 S 形的 Sigmoid 函数，计算公式为：
[f_j(x) = \frac{1}{1 + e^{-S_j}}]
3. 最终输出 ：神经元 (j) 的最终输出通过激活函数对求和结果进行计算得到：
[y_i = f_j(\sum_{i=1}^{n} \omega_{ij}I_i + \beta_j)]

构建好 ANN 的最终结构后，需要启动学习过程来微调网络的权重向量，以逼近结果并优化网络的总误差。ANN 的学习（训练）步骤是一个计算量较大的过程，对 ML