SEGMENTATION-Adelaide-EA-NAS
SEGMENTATION-Adelaide-EA-NAS算法将搜索策略从原算法的强化学习(RL)改为遗传算法(EA)搜索,以改进图像分割网络架构的搜索。遗传算法是一种模拟自然选择和遗传机制的优化方法,它通过模拟种群的进化过程来搜索最优解。在遗传算法中,个体(即解决方案)被编码为基因型,通过遗传操作(如交叉和变异)来生成新的个体。适应度函数用于评估个体的优劣,更适应环境的个体有更高的概率被选中进入下一代。
将遗传算法应用于图像分割网络架构的搜索,意味着该算法将尝试找到最优的网络架构配置,以适应特定的图像分割任务。通过不断地迭代和演化,遗传算法可以逐渐优化种群,直到找到满足条件的解,即具有高性能的图像分割网络架构。
具体的实现细节和实验结果可以在提供的链接https://arxiv.org/abs/1810.10804中找到。这篇文章可能详细介绍了SEGMENTATION-Adelaide-EA-NAS算法的设计原理、实验设置、结果分析和与其他方法的比较等内容。通过阅读这篇文章,可以更深入地了解这种图像分割网络架构搜索算法的工作原理和性能表现。
请注意,遗传算法和强化学习都是机器学习领域的重要分支,它们在许多优化问题中都有广泛的应用。将这两种方法结合或相互替代,以适应不同的应用场景和任务需求,是机器学习研究的一个重要方向。
1. 算法介绍
SEGMENTATION-Adelaide-EA-NAS是图像分割网络架构搜索算法。该搜索算法是在Adelaide沈春华老师研究的Fast-NAS基础上改进的,并将搜索策略从原算法的强化学习(RL)改为遗传算法(EA)搜索,因此命名为SEGMENTATION-Adelaide-EA-NAS。需要了解更多的细节可以看arxiv上的文章 https://arxiv.org/abs/1810.10804 。
2. 算法原理
现有的语义分割模型一般可以被解耦成编码(encoder)部分(又可称为backbone)和解码(decoder)部分。通常情况下,backbone生成不同尺度的特征图,decoder通过选择不同特征图进行融合并最终上采样至原输入分辨率,进而实现了像素级别的分类即语义分割。SEGMENTATION-Adelaide-EA-NAS主要针对decoder结构进行搜索。
2.1 搜索空间和搜索策略
在搜索空间上,主要针对decoder进行搜索,具体包括:
- decoder和backbone之间的连接;
- decoder中cell的结构,包括cell中的算子和连接方式;
- decoder中cell的连接方式。在搜索策略上,采用EA搜索策略。
每一个网络由19个字符表示,前13个字符代表的是decoder中cell的结构(包括cell中的算子和连接方式),后6个字符代表的是decoder和backbone之间的连接以及decoder中cell的连接方式。每一代搜索时,改变上一代中的某个字符获得当前代的一个网络表示。此外,考虑在一般情况下对语义分割网络进行训练时,需要对backbone进行预训练(通常是在ImageNe