sdu_hao的博客

原文地址本篇博客将介绍线性代数里比较重要的概念：特征值，特征向量以及SVD奇异值分解。向量回顾线性代数中，含有n个元素的向量可以表示为：一般默认向量为列向量，也就是n行1列的矩阵，行向量表示为x的转置即**xTx^TxT**特征值和特征向量当维度为n*n的方阵A、n维向量x和实数 λ满足下式时：上式可以看成将矩阵 A 作用在向量 x 上，只对该向量的长度进行变换，此时λ 为矩阵 ...

1. 信息量事件发生的概率越小，信息量越大。

原文地址矩阵求导的技术，在统计学、控制论、机器学习等领域有广泛的应用。鉴于我看过的一些资料或言之不详、或繁乱无绪，本文来做个科普，分作两篇，上篇讲标量对矩阵的求导术，下篇讲矩阵对矩阵的求导术。本文使用小写字母x表示标量，粗体小写字母表示向量，大写字母X表示矩阵。首先来琢磨一下定义，标量f对矩阵X的导数，定义为,即f对X逐元素求导排成与X尺寸相同的矩阵。然而，这个定义在计算中并不好用，实用上...

目录1. 基本概念和符号2. 矩阵乘法3. 运算和属性4. 矩阵微分1. 基本概念和符号线性代数提供了一种紧凑地表示和操作线性方程组的方法。例如，以下方程组：这是两个方程和两个变量，正如你从高中代数中所知，你可以找到和的唯一解（除非方程以某种方式退化，例如，如果第二个方程只是第一个的倍数，但在上面的情况下，实际上只有一个唯一解）。在矩阵表示法中，我们可以更紧凑地表达...

目录1. 概率的基本要素2. 随机变量3. 两个随机变量4. 多个随机变量1. 概率的基本要素为了定义集合上的概率，我们需要一些基本元素：样本空间:随机实验的所有结果的集合(所有样本点的集合)。在这里，每个结果（样本点）可以被认为是实验结束时现实世界状态的完整描述。事件集(事件空间) F:事件,事件A是的子集，即是一个实验可能结果的集合(包含一些样本点)。F需...

目录1. 随机事件和概率2. 随即变量及其概率分布3. 多维随机变量及其分布4. 随机变量的数字特征5. 数理统计的基本概念1. 随机事件和概率事件的关系与运算运算律德.摩根律完全事件组概率基本公式事件的独立性独立重复试验重要公式和结论2. 随即变量及其概率分布随机变量及概率分布取值带有随机性的变量，严格地说是...

目录1. 一元函数导数与微分2. 微分中值定理3. 泰勒公式4. 函数单调性1. 一元函数导数与微分一元函数导数的定义f(x)在x0处的导数：一元函数左右导数的几何意义和物理意义函数f(x)在x0处的左、右导数分别定义为：一元函数的可导性与连续性之间的关系平面曲线的切线和法线四则运算法则基本导数与微分表复合函数，反函数，隐函数以及...