36、人工神经网络中的权重优化：改进的帝王蝶优化算法

人工神经网络中的权重优化：改进的帝王蝶优化算法

1. 引言

在神经网络学习过程中，尽管已有众多算法被提出，但仍需开发更高效的算法来克服梯度消失、收敛缓慢和过早收敛等问题。本文提出一种改进的帝王蝶优化（MBO）算法，即结合准反射学习的 MBO（MBOQRL），用于神经网络训练。

2. 背景与相关工作

自然启发的随机方法常用于训练神经网络，主要分为群体智能元启发式（SI）和基于进化的算法（EA）两类。

2.1 群体智能元启发式算法

SI 算法受昆虫、鸟类、鱼类等动物群体行为的启发。科学家建立了这些行为的数学模型，创造了大量 SI 算法，例如：
- 人工蜂群算法（ABC） ：受蜜蜂觅食行为启发，食物源位置代表优化问题的可能解，解的质量取决于花蜜量。
- 蝙蝠算法（BA） ：基于小蝙蝠在狩猎和寻找猎物时使用的回声定位。
- 萤火虫算法（FA） ：模拟萤火虫群的闪光行为，较暗的萤火虫会飞向较亮的萤火虫。

此外，一些新型 SI 算法如蛾搜索算法（MSA）和帝王蝶优化（MBO）在解决各种领域的问题中表现出色，具有很大潜力。部分最新的 SI 算法实现包括增强蜻蜓算法、灰狼优化器（GWO）、花授粉算法（FPA）、鲸鱼优化算法（WOA）和树生长算法（TGA）。这些算法不仅成功应用于全局优化问题，还在实际工程问题中得到应用，如云计算中的任务调度、无线传感器网络的定位和能量效率优化等。

2.2 SI 算法在神经网络优化中的应用

SI 元启发式算法在人工