1.遗传算法的起源和发展历程
萌芽期:上个世纪50年代到70年代,提出GA等概念
成长期:上个世纪70年代中到80年代,用于优化问题
发展期:90年代以后,开始向广度和深度方向发展
2017年 Uber 发表5篇论文表明神经进化(neuroevolution)也是训练深度神经网络解决强化学习(RL)问题的有效方法。
2019年 Google 在星际争霸 II 上使用AlphaStar打败人类选手,其中使用了进化学习策略。
2.遗传算法优缺点及适用场景
优点:
- 适应性广,可解决大部分的凸优化问题,不可导问题依然可用。
- 并行度高,可以进行多个个体的同时比较。
- 全局最优解,搜索能力强,可扩展性好…
缺点:
1.参数多,调参主要靠经验。
2.计算量大,收敛速度慢,搜索时间长…
3.其他优化算法
离散优化算法:
- 随机搜索算法:爬山搜索算法,模拟退火算法(Simulated Annealing、SA),局部搜索、禁忌搜索、蚁群算法、人工免疫系统(AIS)算法、人工免疫系统(AIS)、粒子群优化(PSO )、引力搜索算法( GSA )、蚁群聚类方法( ACCM中) 、随机传播搜索( SDS )
连续优化算法(基于梯度的优化算法):最速下降法,牛顿法、拟牛顿法、SGD,Momentum,Adam等
4.遗传算法术语
种群:可行解集
个体:可行解
染色体:可行解的编码
基因:可行解编码的分量
适应度:目标函数值
选择:选择操作
交叉:编码的交叉操作
变异:可行解编码的变异
5.遗传算法流程
6. 参考文献
UBer 论文 https://eng.uber.com/deep-neuroevolution/
Google论文 https://www.nature.com/articles/s41586-019-1724-z
GACNN https://arxiv.org/pdf/1909.13354.pdf
https://zhuanlan.zhihu.com/p/92543229
https://zhuanlan.zhihu.com/p/61246506
https://blog.youkuaiyun.com/Uwr44UOuQcNsUQb60zk2/article/details/78877975