aihali的专栏

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html 第五课时：转置-置换-向量空间R本课时讲解转置和置换，然后讲解线性代数的核心概念：向量空间。核心思想是，通过某些向量构成一个向量组成的空间。这些向量属于R^n，构成的子空间也在R^n中。一、置换矩阵P

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第十四课时：正交向量与子空间本文讲解什么是向量的正交，什么是子空间的正交，什么是基的正交。记住上图，四个子空间两两正交。正交向量在n维空间中，向量之间的夹角是90

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第十八课时：行列式及其性质 determinants关于方阵的行列式，需要行列式的重要原因是求特征值。每个方阵都有与其相关的行列式值detA，或者|A|，一个行列式的值把尽可能的信息包含在里头。行列式非零等价于矩阵可逆

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第二十五课时：第二阶段总结本讲是对前阶段的复习课。主要内容有正交性QTQ=I；计算到线和子空间的投影，用来解决Ax=b的问题；格拉姆-施密特正交化将无关的向量投影到另一向量，将获得的向量投影从向量中减去，新得到向量和之

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第二十九课时：相似矩阵和若尔当形本讲介绍相似矩阵，两个矩阵相似意味着什么。正定矩阵回顾上讲内容，正定矩阵有xTAx>0，也可直接通过特征值，主元或者行列式来做判断。假设A是一个正定矩

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第三十课时：奇异值分解本讲讲奇异值分解SVD=Singular Value Decomposition，这是矩阵最终和最好的分解。任意矩阵A=UΣVT，分解的因子是正交矩阵，对角矩阵，正交矩阵。正定

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第十课时：四个基本子空间Am×n，列空间C(A)，零空间N(A)，行空间C(AT)，A转置的零空间（通常叫左零空间），线性代数的核心内容，研究这四个基本子空间及其关系零空间N(A)n维向量，

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第十六课时：投影矩阵和最小二乘 Projections matrix and Least squares投影矩阵回顾上一讲的内容，只要知道矩阵A的列空间，就能得到投影矩阵P的导出式。

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第二十一课时：特征值和特征向量对方阵的特征值和特征向量做讲解，矩阵的特征值和特征向量会反映出矩阵的重要信息，后面的课将讲解特征值和特征向量的应用以及为什么需要特征值和特征向量。特征向量和特征值概念

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第三十二课时：基变换和图像压缩本讲关于基变换，从一组基变换到另外一组基，这在应用中比较常见，还会讲有关应用信号压缩，图像压缩。主题仍是线性变换与矩阵关联。图像压缩——傅里叶变换压缩包括无损压

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第三十五课时：线性代数全总结本节是Gilbert Strang主讲的线性代数导论最后一讲，我想我会想念这位伟大的教授的！任何科学都离不开数学，对计算机科学尤其如此，数据挖掘，机器学习都要以线性代数为

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第十三课时：第一阶段总结应该说第一阶段复习，本讲主要以一些精要例子来增强对概念的理解，还有一些重要的真命题。题1：已知Ax和x，如下1）求行向量的生成空间的维数由已知可得A是

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第二十课时：克莱姆法则、逆矩阵、体积本文介绍行列式的应用，行列式用一个数值就包含所有信息。先回顾上讲的内容：行列式的代数余子式表达式：求逆矩阵公式A的求逆矩阵公式

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第二十二课时：对角化和A的幂Ax=λx,特征值、特征向量的应用以及为什么需要特征值和特征向量。对角化 S-1AS=Λ假设A有n个线性无关的特征向量（大前提），将他们按列组成矩阵S，S为特征向

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第二十四课时：马尔科夫矩阵、傅立叶级数本讲讲解特征值的应用，马尔科夫矩阵理论，傅里叶级数（它是投影矩阵的巧妙应用）马尔科夫矩阵满足两条性质：1）所有元素大于等于0； 2）所有矩阵的列相加等于

自从上次谈了协方差矩阵之后，感觉写这种科普性文章还不错，那我就再谈一把协方差矩阵吧。上次那篇文章在理论层次介绍了下协方差矩阵，没准很多人觉得这东西用处不大，其实协方差矩阵在好多学科里都有很重要的作用，比如多维的正态分布，再比如今天我们今天的主角——主成分分析(Principal Component Analysis，简称PCA)。结合PCA相信能对协方差矩阵有个更深入的认识~PCA的缘

数学上，柯西-施瓦茨不等式，又称施瓦茨不等式或柯西-布尼亚科夫斯基-施瓦茨不等式，是一条很多场合都用得上的不等式；例如线性代数的矢量，数学分析的无穷级数和乘积的积分，和概率论的方差和协方差。它被认为是最重要的数学不等式之一。它有一些推广，如赫尔德不等式。

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第二十六课时：对称矩阵和正定性本讲是关于对称矩阵的知识，AT =A，理解对称矩阵的特征值和特征向量，矩阵的特殊性应该表现在特征值和特征向量上。两个待证明性质实对称矩阵的特征值也是实数

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第二十三课时：微分方程和exp(At)本文涉及微分方程，如何解一阶方程，一阶导数，常系数线性方程，可以将他们转化为线性代数的问题，关键思路是：常系数线性方程的解是指数形式的，如果在找一个指数形式的解，找出指数是多少，系

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第七课时：求解Ax=0：主变量、特解本课时将讲解如何计算那些向量空间中的向量，从概念定义转向算法，求解Ax=0的算法是怎样的，即零空间。消元法解Ax=0消元过程中，从一个方程中减去另一个方程

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第六课时：列空间和零空间特别关注矩阵的列空间和零空间回忆什么是向量空间：就是一些向量，对一些运算封闭，空间内任何向量相加（加法），结果仍在空间内，或用空间内任意向量乘以常数（数乘），结果仍在空间内，

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html第三课时：A的LU分解一、A=LA分解消元的目的，只是为了更好正确的认识矩阵的概念，A=LU是最基础的矩阵分解。L是下三角矩阵，U是上三角矩阵。A通过消元最终得到U，L即A与U之间的联系。先看A矩阵通过

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html第一课时：方程组的几何解释一、线性方程组的两种理解方式：行图像和列图像对于方程组：我们可以表示成矩阵形式： 系数矩阵A，未知数向量x，右侧向量为b，则可写成 Ax=b

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html第三课时：乘法与逆矩阵本课时先讲解矩阵乘法运算，然后是逆矩阵一、矩阵乘法：5种方法Am×n Bn×p = Cm×p，A列必须等于B的行数1）常规方法，行列点乘法：C=AB，C中的第i行j

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html第二课时：矩阵消元本课时的目标是用矩阵变换描述消元法。核心概念是矩阵变换。一、消元法消元法：将主对角线上的主元固定（0不能做主元），把主元下面的元素消为0。过程：先完成左侧矩阵的消元（变成上三角

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第十五课时：子空间投影教授说要让这讲名垂青史，想必此讲是重中之重吧。讲投影。怎样投影，为什么要投影到其他子空间。从一个简单例子看：向量b到向量a的最短距离，b在a上的投影是p，a垂直于e，e

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第十七课时：正交矩阵和Gram-Schmidt正交化这是关于正交性最后一讲，已经知道正交空间，比如行空间和零空间，今天主要看正交基和正交矩阵一组基里的向量，任意q都和其他q正交，两两垂直，内积为零，

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第八课时：求解Ax=b：可解性和解的结构本课时的目标是Ax=b，可能有解，也可能无解，需要通过需要消元才知道，有解的话是唯一解还是很多解。继续用上课时的例子。注意到，方程组中，第三行

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第九课时：线性相关性、基、维数学习什么是”线性相关性“，“线性无关”，什么是由向量组所“生成”的空间，什么是向量空间的“基”，什么是子空间的“维数”。一、知识背景Ax=b，Am×n，其中m

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第十二课时：图和网络本讲着重于线性代数的应用，线性代数处理的矩阵都是有出处的，来自实际问题，描述问题的拓扑结构。应用数学中最重要的模型，离散数学称之为”图“。一个图包含结点和边假设一个电路图，4个结

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第二十七课时：复数矩阵和快速傅里叶变换本讲学习有关复数的相关问题。当特征值为复数时，特征向量也变为复数。如何求两个复向量的内积。一个重要的复矩阵的例子就是傅里叶矩阵。 还将介绍傅里叶变换，简称FFT，在计算机里常用，特

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第三十一课时：线性变换与对应矩阵本讲从线性变换这一概念出发，每个线性变换都对应于一个矩阵。矩阵变换的背后正是线性变换的概念。理解线性变换的方法就是确定它背后的矩阵，这是线性变换的本质通过线性变换来描

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第二十八课时：正定矩阵和最小值本讲学习正定矩阵positive definite matrices，这个主题把整门课的知识融为一体，主元，行列式，特征值，不稳定性，新表达式xTAx。目标是：怎么判断一个矩阵是否是正定矩阵，

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第三十四课时：左右逆和伪逆本讲的主题是左右逆，伪逆，当然也包括以前的内容，四个基本子空间。Am×n，m行n列1）矩阵可逆：即两边逆，AA-1 = I = A-1A ，

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第十一课时：矩阵空间、秩1矩阵和小世界图矩阵空间矩阵空间，可看着是新的向量空间，比如3×3的矩阵，它们加法或数乘都停留在3×3矩阵空间，3×3矩阵有一些子空间：3×3对称矩阵的子空间（两个对称矩阵相

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第十九课时：行列式公式和代数余子式本讲目的是找出行列式的求解公式，代数余子式的概念。对于2×2的方阵，利用三大性质，特别是线性性质可得到推导方法，这种方法是一次取一行进行变换。对于3

本文是Gilbert Strang的线性代数导论课程笔记。课程地址：http://v.163.com/special/opencourse/daishu.html  第三十三课时：第三阶段总结复习本讲梳理知识要点：1）特征值与特征向量Ax=λx；2）微分方程；3）对称矩阵A=AT的特征值是实数，总存在足够的特征向量特征值使它可以对角化：A=QΛQT；4）正定矩阵是特征值均为正的对称矩阵

首先介绍定义，雅克比矩阵是一阶偏导数以一定的方式排列成的矩阵，当其实方阵时，行列式称为雅克比行列式。设有m个n元函数组成的函数组：，称之为函数组。我们对这个函数组取一阶导数，获得下面的雅克比矩阵：如果m=n，那么J就是一个方阵，于是我们就得到对应的雅克比行列式：首先讨论雅克比矩阵，凡是矩阵都可以看做是一个线性空间之间的转换工具，这里也不例外，我们将雅克比矩阵