27、基于直接搜索的顺序决策：理论与算法解析

基于直接搜索的顺序决策：理论与算法解析

在机器学习领域，直接搜索（DS）方法在顺序决策问题中展现出了独特的优势和面临的挑战。本文将深入探讨DS方法在不同场景下的应用、理论基础以及相关算法，旨在为读者提供全面的理解和深入的洞察。

1. 随机搜索（RS）实验

随机搜索（RS）是一种基础的直接搜索方法。在实验中，使用包含100个序列的数据集，其中50个来自类别1（偶数，目标值为0.0），50个来自类别2（奇数，目标值为1.0）。正确的序列分类定义为“序列结束时的绝对误差低于0.1”。当随机权重矩阵（权重在[-100.0, 100.0]内随机初始化）能够正确分类所有训练序列时，停止RS搜索。随后在测试集（100个序列）上进行测试。

实验结果表明，RS最终总能找到能正确分类所有测试集序列的解决方案，平均最终绝对测试集误差始终低于0.001，在大多数情况下低于0.0001。具体而言，使用A1（k = 1）的RS在仅2906次试验（10次试验的平均值）内解决问题，使用A2的RS平均在2797次试验内解决问题，而对于架构A2但隐藏单元无自连接的RS，平均在250次试验内解决问题。

方法	平均试验次数
RS with A1 (k = 1)	2906
RS with A2	2797
RS for A2 without self - c