u013600306的博客

3σ正态分布的英文是Normal Distribution，normal是“正常”或“标准”的意思，中文翻译是正态，多完美的翻译，正态对应偏态，正态是指分布曲线左右对称，偏度为零。正态分布的峰度也为0。话说现在的翻译真让人受不了，比如那个multi-head attention。

随着偏心率从0增加，曲线从圆形逐渐变为更加扁平的椭圆，直到变成抛物线，然后继续变形为开口越来越大的双曲线。对于给定的圆锥截面，偏心率是一个固定值，可以用于区分不同的圆锥截面类型：圆、椭圆、抛物线或双曲线。抛物线是一种特殊的圆锥曲线，它的一侧无限延伸，而另一侧则向一个焦点汇聚。它同样定义为焦距与实轴长度之比，但这里的实轴是指连接两个顶点的线段，而焦距是从双曲线中心到任一焦点的距离。偏心率定义为焦距（两焦点之间的距离的一半）除以长轴（椭圆上最长的直径）的长度。的含义与椭圆中相同，但是由于双曲线的性质，

均匀分布（Uniform Distribution）是概率论和统计学中的一种概率分布，其中有限数量的结果每个都有相同的成功概率。在离散情况下，它指的是所有可能的离散值出现的概率都相等；而在连续情况下，则指在某个区间内所有点出现的概率密度相同。

对于连续型随机变量，分布函数（Cumulative Distribution Function, CDF）是概率密度函数（Probability Density Function, PDF）的变上限积分，概率密度函数是分布函数的导函数。对于离散型随机变量，我们没有概率密度函数的概念，因为离散型随机变量的概率分布在离散的点上具有非零值，而在这些点之外的概率为零。对于离散型随机变量，我们通常讨论的是分布列（Probability Mass Function, PMF），它给出了随机变量取特定离散值的概率。

马氏距离和欧氏距离本质区别在于，马氏距离考虑样本分布的协方差矩阵$\bm C$，欧氏距离只管中心在哪里。

变量替换是一种在统计学和数学中广泛应用的技术，它通过定义新的变量来简化问题，使得原本复杂的随机变量变得更加容易分析。变量替换的公式，用于将一个随机变量 XXX 的概率密度函数 fXf_XfX​ 转换为其经过函数 ggg 变换后的随机变量 Y=g(X)Y=g(X)Y=g(X) 的概率密度函数 fYf_YfY​。定理（变量替换公式）设 XXX 是一个概率密度函数为 fXf_XfX​ 的连续型随机变量，并设存在一个区间 I⊂RI \subset \mathbb{R}I⊂R 使得当 x∉Ix \not\in Ix

与廖老师讨论参数估计理论，意外地发现图像相加有理论保证，当噪声服从独立同分布的高斯分布时，用样本均值估计是极大似然估计，也是最小二乘估计，还是线性最小均方估计。

Gibbs现象（Gibbs Phenomenon）是在处理周期性信号的傅里叶级数展开时出现的一种现象。当一个周期函数在不连续点附近被其傅里叶级数的部分和近似时，近似值会在不连续点处产生过冲（overshoot）和欠冲（undershoot），即使增加更多的谐波项，这些过冲和下冲的幅度也不会减小，而是会趋近于一个固定的百分比，大约是不连续跳跃幅度的9%左右。当使用有限项傅里叶级数来近似一个具有不连续点（例如阶跃变化）的周期函数时，即使随着更多项被添加到级数中，该近似在不连续点附近会显示出过冲和振铃效应。

极大似然估计（Maximum Likelihood Estimation, MLE）是一种常用的参数估计方法，用于在给定观测数据的情况下找到最可能产生这些数据的模型参数值。MLE的基本思想是选择那些使观察到的数据出现概率最大的参数值。

指数分布是连续概率分布的一种，常用于描述等待时间、寿命等随机变量的分布。

向量范数是衡量向量大小或长度的一种方法。它是在向量空间中定义的一个函数，将每个向量映射到一个非负的实数值，这个值可以被解释为向量的“长度”或“大小”。想过两种方式，还是放在一起省地方。图2-52：二维空间向量的。是一个 n 维向量，

在椭圆中，焦距是指两个焦点之间的距离，通常表示为2c。这里的c是从椭圆的中心到任一焦点的距离。因此，当提到椭圆的焦距为2c时，意味着从一个焦点到另一个焦点的距离是2c。ab2cca2−b2​这个公式表明了椭圆的焦距2c与其半长轴a和半短轴b之间的关系。通过这个关系式，可以计算出给定半长轴和半短轴的椭圆的焦距。对区域最小二乘拟合椭圆，它的形状和方向能够很好地代表该区域的形状和方向。计算x轴与椭圆长轴之间的角度（以度为单位），xx。

需要估计，线性最小均方误差（Linear Minimum Mean Square Error, LMMSE）估计的目标是找到一个线性估计器。的偏导数并令其为零，可以得到最优的。通过最小化均方误差来估计参数。

假设有一个随机变量X和一个观测变量Y，线性最小均方估计（LMMSE）的目标是基于观测Y对X进行估计，即寻找一个线性估计XaYb，使得估计值X与真实值X之间的均方误差最小。

假设有一个随机变量θ需要估计，目标是找到一个线性估计器θ∑i0N−1​ai​zi​b，使得估计误差eθ−θ的均方误差Ee2最小。线性最小均方误差（Linear Minimum Mean Square Error, LMMSE）估计的推导过程。

空域圆域函数（也称为空间中的圆形区域函数）通常指的是在二维空间中，以原点为中心、半径为a的圆内取值为1，圆外取值为0的函数。结果是与第一类贝塞尔函数$J_1$有关的一个表达式。

梯度的方向指示了函数值增长最快的方向，而梯度的模（长度）则反映了在这个方向上的变化率。如果函数在某点处的梯度为零，则称这一点为函数的临界点或驻点。在最优化问题中，梯度的概念非常关键，常用于指导搜索算法朝向目标函数值减少（或增加）最快的方向移动，例如梯度下降法和梯度上升法。通过计算图像中像素强度的变化率，可以识别出图像中的边界或边缘，这是许多高级图像处理和计算机视觉技术的基础。梯度是一个数学概念，在多维空间中表示函数在某一点处变化最快的方向和变化率。，该向量的每个分量分别是函数。，其梯度是一个向量，记作。

是学科交叉带来的概念冲突。数值微分中的差分实际上是计算。

矩阵对角化和特征值分解实际上描述的是同一个过程的不同方面。强调的是通过相似变换将矩阵A转化为对角矩阵D。强调的是如何通过矩阵的特征值和特征向量来实现这种对角化。

时域卷积和频域乘积通过傅里叶变换和逆傅里叶变换相互转换。时域卷积和矩阵向量乘积通过构建卷积矩阵实现相互转换。矩阵向量乘积到时域卷积通过提取卷积矩阵中的冲激响应实现。

循环矩阵是一种特殊的方阵，它的每一行都是前一行向右循环移位一个位置的结果。如果矩阵CCC是n×nn \times nn×n的循环矩阵，那么它可以由第一行的nnn个元素完全确定。假设c0c1cn−1c0​c1​...cn−1​是矩阵CCCCc0cn−1c2c1c1c0cn−1c2⋮c1c0⋱⋮cn−2⋱⋱cn−1cn−1cn−2c1c0C​。

自相关函数是一维的，描述了信号在不同时间点上的相关性。自相关矩阵是二维的，描述了信号在多个维度上的相关性。关系：自相关矩阵的每个元素可以用自相关函数在不同时延处的值来表示。自相关矩阵可以看作是自相关函数在有限维度上的矩阵形式表示。通过这种关系，可以将一维信号的自相关特性扩展到多维信号的分析中。

如果一个线性方程组可以转化为卷积形式，那么可以使用FFT来加速求解过程。这是因为根据卷积定理，两个函数在时域中的卷积等价于它们在频域中的乘积。因此，通过FFT将问题转换到频域中处理，可以更高效地解决某些类型的线性方程组问题。要使线性方程组的系数矩阵能够表示为卷积的形式，该矩阵通常需要具备一定的特殊结构。最常见的是循环矩阵（Circulant Matrix）和Toeplitz矩阵。可以直接表示为向量的循环卷积，适用于 FFT 高效计算。可以通过填充零等方法转换为循环矩阵，然后使用 FFT 进行高效计算。

所有循环矩阵都是Toeplitz矩阵，但不是所有的Toeplitz矩阵都是循环矩阵。这是因为循环矩阵满足更严格的条件——不仅每条对角线上的元素相同，而且每行都是前一行的循环移位。

当数据做了中心化处理（减去均值）之后， 不相关等价于正交。平稳随机过程的相关函数与随机变量的相关性度量（协方差、相关系数）的概念容易混淆，注意区分。

概率统计中的定义从来不说人话。独立同分布中心极限定理结果的有三种解释形式。然而有人总掺和到一起说。这一结果是数理统计中大样本统计推断的基础。是独立同分布的随机变量序列，且。假设有任意分布的总体，其均值为。是标准正态分布的分布函数。充分大时，近似地服从均值为。近似服从正态分布，其均值为。的独立同分布的随机变量。存在，则随机变量之和。

统计量是指基于样本数据计算出来的用来描述样本特征或者估计总体参数的数量指标。它是一个函数，输入是样本数据，输出是一个关于样本特性的数值。样本是从一个总体中抽取的一部分个体。在统计分析中，我们经常通过研究样本来推断整个总体的情况（统计推断）。样本中的每一个个体都有关于特定随机变量的一个观察值或测量值。随机变量可以是离散的或连续的。的取值范围可以是从0到无穷大，但实际上由于时间有限，我们可以假定它的合理范围是 [0, 20] 小时。随机变量的取值指的是随机变量可能实现的具体数值。，这是最纠结的地方。

差分是数值分析中的概念，用于近似连续函数的导数。差分可以通过多种方式定义，一阶差分常见的有和，二阶差分常用的是中心差分法。

这里给了函数边缘的定义，一阶导数极大值，二阶导数为零，三阶导数小于等于0。图像别人的检测也是一阶导数的极值点，二阶差分的过零点。这和函数的不连续点（间断点）完全是不同的概念。冈萨雷斯说边缘是不连续点（间断点）的定义到底出处哪里。

中心矩、原点矩、均值、方差、偏度、峰度

所以信号处理中通常信号都是做中心化处理的，所以也就不区分互相关和协方差。因为两者的概念毕竟不一样，所以就会导致难以阅读。当数据做了中心化处理（减去均值）之后，互相关等价于协方差，互相关才能衡量两个变量是否相关。协方差度量两个变量是否相关，而互相关却不是，这是概率论中特别拧巴的一个概念。