23、编译器设计中的机器学习技术：循环不变代码移动优化

编译器设计中的机器学习技术：循环不变代码移动优化

1. 交叉验证与参数优化

在编译器设计中，为了评估机器学习启发式（MLB）对最坏情况执行时间（WCET）的影响，会对训练集中的所有基准测试进行交叉验证。对于特定的学习算法 alg 和参数设置 s ，通过交叉验证得到的平均值代表了该MLB启发式对WCET的影响。最终，算法会返回使相对WCET最小（即WCET减少最多）的 alg 和 s 。

然而，简单地遍历所有参数设置进行搜索在实际中并不可行，因为用户可定义的分类器参数数量过多。为了解决这个问题，提出了一种进化策略。该策略的流程如下：
1. 初始化 ：为每个学习算法生成随机初始化的个体种群，每个个体代表一个特定学习算法的参数值。例如，对于带有径向基函数（RBF）核的支持向量机（SVM），个体可以是参数 C 和 γ 的值。
2. 交叉验证 ：将每个个体传递给基准测试交叉验证，平均性能值作为该个体的适应度函数。
3. 交叉操作 ：个体以指定概率（ crossover_prob ）进行交配，使用单点交叉，产生的子代包含父代交换后的参数值，并将子代添加到当前种群。
4. 变异操作 ：克隆所有个体，并通过向所有参数添加高斯分布的值来对克隆体进行变异。
5. 适应度评估 ：