7、信号处理与机器学习理论入门

信号处理与机器学习理论入门

1 自适应滤波环境概述

自适应滤波环境的一般设置中，在给定迭代次数 $n$ 时，输入信号 $x(n)$ 激励自适应滤波器，产生输出信号 $y(n)$。该输出信号会与参考信号 $d(n)$ 进行比较，根据 $d(n) - y(n)$ 形成误差信号 $e(n)$。误差信号是代价（或目标）函数的自变量，通过适当调整自适应滤波器系数可实现代价函数的最小化。

在信号增强的示例中，从误差信号中可以识别出输入信号包含正弦分量。在某些情况下，直接观察输入信号很难发现正弦信号的存在，但误差信号却清晰呈现出近似正弦的行为。

2 机器学习概述与趋势

机器学习在人工智能领域的应用日益广泛，但仍有进一步发展的空间。在许多情况下，自然智能在处理数据方面优于依赖数据的机器学习解决方案。不过，机器学习在关键领域也取得了显著进展，尤其在预测和分类等方面表现出色。

2.1 机器学习算法分类

机器学习算法通常分为四类：监督学习、无监督学习、自监督学习和半监督学习。具体如下：
| 学习类型 | 所需数据 | 学习目标 | 示例说明 |
| — | — | — | — |
| 监督学习 | 包含观测值或输入以及匹配标签或输出的数据集 | 从标记数据集中学习，预测未知输入数据的结果 | 当开关处于位置 1，过程 $P$ 规则是将输入乘以单位矩阵，模型学习输入数据 $x$ 与其标签 $y$ 的关系，产生输出 $v = \hat{y}$ |
| 无监督学习 | 仅需观测值 | 在未标记的输入数据中寻找潜在模式，用于对未知输入数据进行分类 | 开关处于位置 2，过程 $P$ 同样将输入乘以单位矩