4、自动化机器学习与算法设计：现状、挑战与未来展望

自动化机器学习与算法设计：现状、挑战与未来展望

自动化机器学习（AutoML）概述

自动化机器学习（AutoML）旨在帮助用户设计机器学习系统。它涵盖了从固定模型的超参数优化，到模型类型选择、完整模型或管道生成，再到深度学习架构的自动设计等多个方面。在数据科学时代，AutoML已成为一个成熟的领域，具有广泛的适用性。

在早期，AutoML取得了显著进展。对于机器学习知识有限的用户，有非常有效的方法可供使用；对于机器学习专家来说，也有一些解决方案使设计任务变得更加容易。如今，有证据表明AutoML是一项可行的任务，这在早期是机器学习社区所怀疑的。虽然目前距离实现一个能解决所有问题的“黑盒”解决方案还很遥远，但我们现在可以利用AutoML技术来处理传统上需要大量努力的问题。

AutoML的关键挑战与发展方向

• 知识转移 ：在优化过程中，知识转移是一个重要的方面，例如将优化过程的动态信息从一个任务转移到另一个任务。
• 基准测试和可重复性 ：由于AutoML是一个涉及数据的优化过程，开发用于评估和公平比较不同AutoML方法的平台和框架是一个尚未解决的问题。虽然有一些挑战提供了这样的平台，但由于AutoML的快速发展，这些平台可能很快就会过时。此外，代码共享和鼓励AutoML结果可重复性的机制，对该领域的成熟度可能有巨大的积极影响。
• 交互式AutoML方法 ：尽管AutoML的主要目标是自动化流程并尽可能减少用户在设计循环中的参与，但交互式AutoML方法可以使AutoML模型的性能远远超越当前