qq_28972011的博客

LU分解LU分解是矩阵分解的一种，将一个矩阵分解为一个下三角矩阵和一个上三角矩阵的乘积，有时需要再乘上一个置换矩阵。LU分解可以被视为高斯消元法的矩阵形式。在数值计算上，LU分解经常被用来解线性方程组、且在求逆矩阵和计算行列式中都是一个关键的步骤。一、定义对于方阵 AAA，AAA 的LU分解是将它分解成一个下三角矩阵 L 与上三角矩阵 U 的乘积，也就是 A=LUA=LUA=LU。举例来说一个3×3{\displaystyle 3\times 3}3×3的矩阵 AAA ，其 LU 分解会写成下面的

聚类算法用于降维K-Means聚类最重要的应用之一是非结构数据上的矢量量化。非结构化数据往往占用比较多的储存空间，文件本身也会比较大，运算非常缓慢，我们希望能够在保证数据质量的前提下，尽量地缩小非结构化数据的大小，或者简化非结构化数据的结构。矢量量化就可以帮助我们实现这个目的。KMeans聚类的矢量量化本质是一种降维运用，但它与我们之前学过的任何一种降维算法的思路都不相同。特征选择的降维是直接选取对模型贡献最大的特征，PCA的降维是聚合信息，而矢量量化的降维是在同等样本量上压缩信息的大小，即不改变特征的

一、协方差协方差用于衡量两个随机变量的联合变化程度。方差为协方差的一种特殊情况，即该变量与其自身之协方差。若变量X的较大值主要与另一个变量Y的较大值相对应，而两者的较小值也相对应，则可称两变量倾向于表现出相似的行为，协方差为正。在相反的情况下，当一个变量的较大值主要对应于另一个变量的较小值时，则两变量倾向于表现出相反的行为，协方差为负。即协方差之正负号显示著变量的相关性。协方差的定义期望值分别为E(X)=μ\displaystyle E(X)=\muE(X)=μ 与 E(Y)=νE(Y)=\