卷积神经网络架构优化:微遗传算法的应用与优势
1. 神经进化技术概述
神经进化是一种机器学习技术,它从自然界生物神经系统的进化中获取灵感,运用进化算法来构建人工神经网络。在这个过程中,群体中的每个个体并非以复杂的神经网络形式存储,而是以基因组的形式存在,这种基因组是一种简化的遗传表示,可以映射到神经网络。
神经进化的过程如下:
- 初始化一组基因组。
- 将这些基因组应用到问题环境中。
- 根据神经网络解决应用问题的效果,为每个基因组分配一个适应度分数。例如,在图像识别任务中,适应度分数可以是识别准确率的函数;对于机械臂,它可以是机械臂移动到预期轨迹的接近程度;在视频游戏等虚拟环境中,它可以是智能体的表现。
神经进化是一个无偏的过程,它不需要为生成的神经网络指定特定的拓扑结构或超参数,但需要为其进化过程设置参数。神经网络是通过在问题环境中有效的反馈来发展的,这些可用于形成和完整指定生成的神经网络的选择范围(如拓扑结构、权重、超参数等)通常被称为搜索空间。虽然神经进化的无偏性质允许有广泛的搜索空间,但为了更快地遍历搜索空间,限制其粒度是有意义的。
2. 微遗传算法CNN框架提案
提出的方法是实现一种遗传算法,即微遗传算法(µGA),它最初由Krishnakumar开发。该算法以少量的种群(通常是4 - 5个智能体)就能像普通遗传算法一样收敛,通过启动和重启的过程来实现。
微遗传算法的工作流程如下:
1. 初始化一个包含5个智能体的随机种群。
2. 应用适应度函数来获取种群的分数。
3. 进行所有智能体之间的锦标赛作为选择方法,并在选定的智能体之间以概率1进行交
超级会员免费看
订阅专栏 解锁全文
8874

被折叠的 条评论
为什么被折叠?



