21、基于机器学习的编译器优化技术：函数内联与循环不变代码移动

基于机器学习的编译器优化技术：函数内联与循环不变代码移动

在编译器优化领域，机器学习技术正逐渐展现出巨大的潜力。本文将深入探讨随机森林在函数内联优化中的应用，以及如何利用监督学习生成循环不变代码移动（LICM）的启发式规则，以实现更高效的最坏情况执行时间（WCET）优化。

随机森林与函数内联优化

随机森林是一种流行的决策树集成技术，由多个未修剪的决策树组成。这些决策树基于不同的自助样本构建，每个样本是从训练集中有放回地均匀采样得到的。与标准决策树不同，随机森林在每个节点分裂时只使用随机选择的特征子集来找到最佳分裂点。

这种看似违反直觉的策略却具有很高的准确性，其结果可与支持向量机或Adaboost等最先进的算法相媲美。随机森林的其他重要优点包括速度快、抗过拟合能力强以及用户友好性高，因为只需要定义两个参数：节点分裂时考虑的特征数量和森林中的树的数量。

为了预测新数据，森林中的每棵树都会对目标对象进行分类，然后通过多数投票来汇总输出，即最常预测的类别就是最终输出。

WCET感知的函数内联应用

随机森林的一个优势是可以将分类规则转换为等效的编程语言结构。由于随机森林是一组代表特征条件测试的决策树，因此可以将其转换为if-then-else语句，并作为优化启发式规则融入WCC编译器中。

为了在大幅减少WCET的同时尽量减少代码大小的增加，WCC将基于机器学习的启发式规则（MLB）与一个与代码大小相关的互补启发式规则相结合，用于选择内联候选函数。普通编译器通常采用自上而下的方式遍历程序代码来考虑内联候选函数，而WCC则从优化具有最大最坏情况执行次数（WCEC）的被调用函数开始。这些函数通常有望通过后续的内