29、数学基础与图像处理相关知识

数学基础与图像处理相关知识

1. 正交回归与线性组合

1.1 线性组合表达式

在数学表达中，有如下线性组合公式：
[y(x, w) = \sum_{j = 0}^{M - 1} w_j B_j(x) = w^T B(x)]
其中，(w = (w_0, w_1, \ldots, w_{M - 1})^T)，(B = (B_0, B_1, \ldots, B_{M - 1})^T)。

1.2 正交回归

正交回归是线性回归的一种一般形式，当({x})和({y})都是测量数据且受噪声影响时使用，也称为总最小均方。给定样本(x_{i0})和(y_{i0})，目标是估计真实点((x_i, y_i))和直线参数((a, b, c))，使得对于所有(i)都有(ax_i + by_i + c = 0)，并最小化误差(\sum_i (x_i - x_{i0})^2 + (y_i - y_{i0})^2)。当直线或曲面（在高维空间中）沿着数据分布矩阵中特征值最小的特征向量方向穿过数据重心时，估计较为容易。

2. 线性运算相关概念

2.1 线性的定义

线性具有以下两个特点：
1. 具有线性形式。
2. 是对一个过程的数学描述，一些输入变量(x)和输出变量(y)之间的关系可以写成(y = Ax)，其中(A)是矩阵。

2.2 线性变换

线性变换是对一组值进行的数值变换，使用常数对值进行加或乘运算。如果这组值是向量(x)，则一般的线性变换得到另一个向量(y = Ax)，其中(y)的维度不需要与(x)相同，(A)是常数矩阵（即不是(x