Anne033的博客

CNN 又叫 Convolutional neural network, 中文名有叫卷积神经网络，它怎么来的，它有多牛逼，这就不多说了，大家网上查。希望大家在看之前有一点点基本的computer vision 和CNN 的基本知识。我们第一部分先讲 Convolution，到底什么是卷积，别忙，大家都用过某美颜软件吧，比如我老婆新垣结衣：美的不要的不要的。。。。。然后我锐化了一下，变成如下图所示：我们会发现，锐化后的图像边缘细节的对比度加大了。

所谓的「齐」，必然是有两个或者以上的对象，那么就以两个对象x,yx,yx,y为例。齐次，是指所列的式子只和Xn,ynX^n, y^nXn,yn相关，不存在Xm,yl(m≠n,l≠n)X^m, y^l (m \neq n, l \neq n)Xm,yl(m​=n,l​=n)的项，包括常数项也只有0二次型二次型 https://www.zhihu.com/question/38902714作者：知乎用户链接：https://www.zhihu.com/question/25552461/an

一、极值点与驻点的“纠缠”我们可以从以下三点去理解它们的区别与联系：二、拐点和另两者的“牵扯”https://zhuanlan.zhihu.com/p/95782395

-**************************************************https://wenku.baidu.com/view/f7fa307a580216fc700afdb9.html#

本系列主要参考文献为维基百科的Matrix Caculas和张贤达的《矩阵分析与应用》。求导定义与求导布局1. 矩阵向量求导引入在高等数学里面，我们已经学过了标量对标量的求导，比如标量y对标量x的求导，可以表示为∂y∂x。有些时候，我们会有一组标量yi,i=1,2,…,m来对一个标量x的求导,那么我们会得到一组标量求导的结果：∂yi∂x,i=1,2.,m　　　　如果我们把这组标量写成向量的形式，即得到维度为m的一个向量y对一个标量x的求导，那么结果也是一个m维的向量：∂y∂x　　　　可见，所谓

矩阵的谱或叫矩阵的谱半径，在特征值估计、广义逆矩阵、数值分析以及数值代数等理论的建树中，都占有极其重要的地位；矩阵的谱半径为矩阵的特征值的模的最大值。关于矩阵的谱（半径）的一个重要性质即是：任意复数域上的矩阵的谱半径不大于其任意一种诱导范数。问，该性质可以用来干嘛？答：用来对谱半径进行近似估计。1. 谱半径与范数的关系定义2. 常用的推论：作者：Jack Bauer链接：https://www.zhihu.com/question/22263789/answer/130323362来源

二次型二次型 https://www.zhihu.com/question/38902714

1 连续的含义通俗来说，用笔作画，不提笔画出来的曲线就是连续的：1.1 没有缝隙我们对连续的函数曲线的直观感受是没有缝隙：1.2 另一层含义2 可微的含义2.1 单变量函数的微分2.2 多变量函数的微分多元的情况下，就要复杂一些。2.2.1 偏导数首先要对偏导数有所了解。多变量的函数f(x,y) 可以是三维空间中的曲面https://blog.youkuaiyun.com/ccnt_2012/article/details/83310653...

1. 转置(Transposes)2. Inner Product3. 对称(symmetric)4. RTRR^TRRTR5. Permutation6.PA=LU7. Conclusion总结一下就是转置和对称的相互关系，以及其一些特性，矩阵中元素的位置变换成为了本文重点。https://face2ai.com/math-linear-algebra-chapter-2-7/...

1. 迹（trace）矩阵的迹（trace）表示矩阵 A AA 主对角线所有元素的和2. 行列式（determinant）矩阵 A AA 的行列式值记为 det(A)det ( A )det(A)。https://blog.youkuaiyun.com/robert_chen1988/article/details/88576194

1. 矩阵乘法2.向量乘法https://zhuanlan.zhihu.com/p/79760117

一、线性方程组三、矩阵、向量中元素的符号四、矩阵中行向量、列向量五、行向量 × 列向量 (向量内积)六、列向量 × 行向量(向量外积)七、矩阵 × 列向量 (按行写矩阵)八、矩阵 × 列向量 (按列写矩阵)九、行向量 × 矩阵 （矩阵按列写）十、行向量 × 矩阵 （矩阵按行写）十一、矩阵 × 矩阵 视为 行矩阵 × 列矩阵十二、矩阵 × 矩阵 视为 列矩阵 × 行矩阵十三、矩阵 × 矩阵(列向量的矩阵)十四、矩阵(行向量的矩阵) × 矩阵十五、矩阵乘法基

一、期望和方差的定义随机变量(Random Variable) X 是一个映射，把随机试验的结果与实数建立起了一一对应的关系。而期望与方差是随机变量的两个重要的数字特征。1. 期望(Expectation, or expected value)期望是度量一个随机变量取值的集中位置或平均水平的最基本的数字特征；2. 方差(Variance)方差是表示随机变量取值的分散性的一个数字特征。 方差越大，说明随机变量的取值分布越不均匀，变化性越强；方差越小，说明随机变量的取值越趋近于均值，即期望值。（1

奇异矩阵就是Singular Matrix 的中文翻译。Singular 就是唯一的，可以想成是单身狗，所以他没有对象 逆矩阵。Non-singular的非奇异矩阵就是Couple 有逆矩阵。奇异矩阵奇异矩阵是线性代数的概念，就是对应的行列式等于0的矩阵。奇异矩阵的判断方法：首先，看这个矩阵是不是方阵（即行数和列数相等的矩阵。若行数和列数不相等，那就谈不上奇异矩阵和非奇异矩阵）。 然后，再看此方阵的行列式|A|是否等于0，若等于0，称矩阵A为奇异矩阵；若不等于0，称矩阵A为非奇异矩阵。 同时，由|

http://wuli.wiki//online/DerMax.html

在众多的机器学习模型中，线性代数的身影无处不在，当然，我们也会时常碰到线性代数中的正定矩阵和半正定矩阵。例如，多元正态分布的协方差矩阵要求是半正定的。--------------×--------------×--------------基本的定义正定和半正定这两个词的英文分别是positive definite和positive semi-definite，其中，definite是一个形容词，表示“明确的、确定的”等意思。初学线性代数的读者可能会被这两个词“唬住”，但正定矩阵和半正定矩阵的定义

多元函数与一元函数有一个很大的区别在于定义域的不同：一元函数自变量就在x轴上，因此趋近的方向只有某点的左右两侧，因此，考察一元函数极限的时候，仅考虑左邻域和右邻域即可。但是多变量微分变得复杂，趋向方式是无限种可能的。比如：二元函数，定义域在一个平面内，趋近方式可以是直线，也可以是曲线。1.导数2.微分3.微分与导数的关系4.偏导类比于一元函数，也想研究函数的变化率问题，在日常生活中，我们经常遇到这样的问题，一个值和许多元素相关，我们习惯只改变一个变量值，其它变量值固定，看变化的情况。这

前言从上面的分析和例题看到，对于秩为1的n阶矩阵，零是其n重或n-1重特征值，如果是n-1重，则非零特征值是矩阵的主对角线元素之和;另外还看到，秩为1的矩阵可以分解为一个非零列向量与另一个非零列向量的转置的乘积，这两个向量的内积即是非零特征值;秩为1的矩阵对应的齐次线性方程组的基础解系含n-1个解向量.秩为1的n矩阵A具有以下性质https://kaoyan.wendu.com/2016/0531/93273.shtmlhttps://zhaokaifeng.com/?p=5460...

inf 是 infimum 的简称，sup 是 supremum 的简称。使用 inf 或 sup 总能保证一个函数的 inf 或 sup 存在，而函数的 min 或 max 有时候不存在。sup 的定义：一个集合最小的上界inf 的定义：一个集合最大的下界sup(X)是取上限函数，inf(X) 是取下限函数。sup是supremum的简写，意思是：上确界，最小上界。inf是infimum的简写，意思是：下确界，最大下界。一、上确界：上确界是一个集的最小上界，是数学分析中最基本的概念。“

奇异值分解(Singular Value Decomposition，以下简称SVD)是在机器学习领域广泛应用的算法，它不光可以用于降维算法中的特征分解，还可以用于推荐系统，以及自然语言处理等领域。是很多机器学习算法的基石。本文就对SVD的原理做一个总结，并讨论在在PCA降维算法中是如何运用运用SVD的。1. 回顾特征值和特征向量2. SVD的定义3. SVD计算举例4. SVD的一些性质5. SVD用于PCASVD小结SVD作为一个很基本的算法，在很多机器学习算法中都有它的

数的类别数可以被分类为数系的集合内。对于以符号表示数的不同方式，则请看记数系统。自然数主条目：自然数最常用的数为自然数，有些人指正整数，有些人则指非负整数。前者多在数论中被使用，而在集合论和计算机科学中则多使用后者的定义。在十进制数字系统里，自然数的标记符号为0至9等十个数字，将以十为基数的进位制使用在大于九的数上。 因此，大于九的数会有两个或两以上的位数。表示所有自然数的集合为N\mathbb {N}N。整数主条目：整数、正整数、负整数和0负整数是小于 0 的整数，通常在其前面加上一负号.

WHAT IS THE DIFFERENCE BETWEEN A THEOREM(定理), LEMMA（引理）,AND A COROLLARY（推论）?PROF. DAVE RICHESON(1) Definition（定义）------a precise and unambiguous description of the meaning of a mathematical term. It characterizes the meaning of a word by giving all the p

https://zhuanlan.zhihu.com/p/50912180

代数数在数论中，超越数是指任何一个不是代数数的数字（通常它是复数）。它满足以下条件——只要它不是任何一个整系数代数方程的根，它即是超越数。最著名的超越数是e以及π。超越数超越数的例子所有超越数构成的集是一个不可数集。这暗示超越数远多于代数数。可是，现今发现的超越数极少，甚至连π+e, 是不是超越数也不知道，因为要证明一个数是超越数或代数数是十分困难的。代数函数与超越函数代数函数是指包含加、减、乘、除和开方等基本算符的数学函数。非代数函数则被称为超越函数。在数学领域中，超越函数与代数函数相

示性函数(Indicator function)共轭函数对偶范数几个常用公式

归一化 Normalization归一化一般是将数据映射到指定的范围，用于去除不同维度数据的量纲以及量纲单位。常见的映射范围有 [0, 1] 和 [-1, 1] ，最常见的归一化方法就是 Min-Max 归一化：举个例子，我们判断一个人的身体状况是否健康，那么我们会采集人体的很多指标，比如说：身高、体重、红细胞数量、白细胞数量等。一个人身高 180cm，体重 70kg，白细胞计数 [公式] ，etc.衡量两个人的状况时，白细胞计数就会起到主导作用从而遮盖住其他的特征，归一化后就不会有这样的问题。

https://www.shuxuele.com/area.html

马同学从数学上讲，卷积就是一种运算。某种运算，能被定义出来，至少有以下特征：首先是抽象的、符号化的其次，在生活、科研中，有着广泛的作用比如加法：[公式] ，是抽象的，本身只是一个数学符号在现实中，有非常多的意义，比如增加、合成、旋转等等卷积，是我们学习高等数学之后，新接触的一种运算，因为涉及到积分、级数，所以看起来觉得很复杂。1 卷积的定义这两个式子有一个共同的特征：这个特征有什么意义？如果遍历这些直线，就好比，把毛巾沿着角卷起来：此处受到 荆哲：卷积为什么叫「卷」积？ 答

https://kexue.fm/sci/integral/《积分公式大全》网络版本——By BoJone引用原作者的话：本附件所有公式来自《高等数学第三版》。　　该书信息：同济大学数学教研室编，高等教育出版社，1988年4月第三版，ISBN 7-04-000894-7/O.344尽管tex文件制作者对所有公式进行了仔细的校对，但制作者不保证所有公式的正确性，对由使用这些公式造成的任何损失均不承担责任。tex文件制作者：liangbch. tex文件最后更新日期：2008-4-2，本

1. 常用初等函数的求导公式2. 函数的四则运算求导简单可记为3. 反函数求导法则https://www.sohu.com/a/233597731_507476

一、向量的范数首先定义一个向量为：a=[-5，6，8, -10]1.1 向量的1范数向量的1范数即：向量的各个元素的绝对值之和，上述向量a的1范数结果就是：29，MATLAB代码实现为：norm（a，1）；1.2 向量的2范数向量的2范数即：向量的每个元素的平方和再开平方根，上述a的2范数结果就是：15，MATLAB代码实现为：norm（a，2）；1.3 向量的无穷范数1.向量的负无穷范数即：向量的所有元素的绝对值中最小的：上述向量a的负无穷范数结果就是：5，MATLAB代码实现为：norm（

一、协方差：可以通俗的理解为：两个变量在变化过程中是同方向变化？还是反方向变化？同向或反向程度如何？你变大，同时我也变大，说明两个变量是同向变化的，这时协方差就是正的。你变大，同时我变小，说明两个变量是反向变化的，这时协方差就是负的。从数值来看，协方差的数值越大，两个变量同向程度也就越大。反之亦然。咱们从公式出发来理解一下：公式简单翻译一下是：如果有X,Y两个变量，每个时刻的“X值与其均值之差”乘以“Y值与其均值之差”得到一个乘积，再对这每时刻的乘积求和并求出均值（其实是求“期望”，但就不引申