Wang的专栏

极大似然估计法极大似然估计法是在总体的分布类型已知的条件下所使用的一种参数估计方法它首先是由德国数学家Gauss在1821年提出的，然而，这个方法常归功于英国统计学家FisherFisher在1922年重新发现了这一方法，并首先研究了这种方法的一些性质极大似然原理一个随机试验有若干个可能结果A，B，C, …。若在一次试验中，结果A发生，则一般认为试验条件对A最有利，即A发生的概率P(A/θ)P(A/\theta)P(A/θ)最大如: 甲{99红1黑,乙{1红99黑甲 \left \{\be

切比雪夫不等式(切比雪夫定理)设随机变量X的期望为μ\muμ, 方差为：σ2\sigma^2σ2, 对于任意的正数ε\varepsilonε, 有P{∣X−μ∣≥ε}≤σ2ε2P\{ |X - \mu| \geq \varepsilon \} \leq \frac{\sigma^2}{\varepsilon^2}P{∣X−μ∣≥ε}≤ε2σ2​切比雪夫不等式的含义：DX(方差)越小，时间{X−μ}<ε\{ X - \mu \} < \varepsilon{X−μ}<ε 发生的

标准差标准差(Standard Deviation)是离均值平方的算术平均数的平方根，用符号σ\sigmaσ 表示，其实标准差就是方差的算术平方根标准差和方差都是测量离散趋势的最重要、最常见的指标。标准差和方差的不同点自傲与，标准差和变量的计算单位是相同的，比方差清楚，因此在很多分析的时候使用的是标准差σ=D(X)=∑(X−μ)2N\sigma = \sqrt{D(X)} = \sqrt{\frac{\sum (X-\mu)^2}{N}}σ=D(X)​=N∑(X−μ)2​​标准差的计算有这

关于3σ3\sigma3σ法则 备注：图片托管于github，请确保网络的可访问性 3σ3\sigma3σ法则：3σ3\sigma3σ之外的数据可认为异常数据期望期望(mean): 也就是均值, 是概率加权下的"平均值"，是每次可能结果的概率乘以其结果的总和, 反映的是随机变量平均取值大小, 常用符号μ\muμ表示连续型：E(X)=∫−∞∞xf(x)dxE(X) = \int_{-\infty}^{\infty} xf(x) dxE(X)=∫−∞∞​xf

连续型随机变量及其概率密度1 ) 连续型随机变量的概念与性质如果对于随机变量X的分布函数F(x)，存在非函数f(x), 使得对于任意实数x, 有F(x)=∫−∞xf(t)dtF(x) = \int_{-\infty}^x f(t)dtF(x)=∫−∞x​f(t)dt,则称X为连续型随机变量, 其中函数f(x)称为X的概率密度函数，简称概率密度2 ) 关于不定积分的补充f(x) 在区间I上的原函数全体称为f(x)在I上的不定积分, 记为：∫f(x)dx\int f(x) dx∫f(x)dx,

随机变量及其分布例1袋中有3只黑球，2只白球，从中任意去除3只球. 我们将3只黑球分别记为：1, 2, 3号, 2只白球分别记为4,5号, 则该实验的样本空间为 S={(1,2,3)(1,2,4)(1,2,5)(1,3,4)(1,3,5)(1,4,5)(2,3,4)(2,3,5)(2,4,5)(3,4,5)}S = \left \{\begin{array}{cccc} (1,2,3) & (1,2,4) & (1,2,5) \\ (1,3,4) & (1,3,5) &

贝叶斯公式贝叶斯公式：P(A∣B)=P(B∣A)P(A)P(B)P(A|B) = \frac{P(B|A)P(A)}{P(B)}P(A∣B)=P(B)P(B∣A)P(A)​P(A): 在没有数据支持下，A发生的概率：先验概率或边缘概率P(A|B): 在已知B发生后A的条件概率，也就是由于得自B的取值而被称为A的后验概率P(B|A): 在已知A发生的情况下的概率分布，似然函数设A1、A2...AnA_1、A_2...A_nA1​、A2​...An​是样本空间Ω\OmegaΩ的一个划分，如果对

联合概率表示两个事件共同发生的概率，事件A和事件B的共同概率记为：P(AB)、P(A,B)P(AB)、P(A,B)P(AB)、P(A,B) 或者P(A∩B)P(A \cap B)P(A∩B), 记为事件A和事件B同时发生的概率 备注：图片托管于github，请确保网络的可访问性 条件概率事件A在另外一个事件B已经发生的条件下的发生概率叫做条件概率，表示为P(A∣B)P(A|B)P(A∣B), 读作：“在B条件下A发生的概率”一般情况下P(A∣B)≠P(A

向量的导数A为m∗nm*nm∗n的矩阵，x为n∗1n*1n∗1的列向量，则Ax为m∗1m*1m∗1的列向量，记为：y⃗=A⋅x⃗\vec{y} = A·\vec{x}y​=A⋅xA=(a11a12⋯a1na21a22⋯a2n⋯⋯⋯⋯am1am2⋯amn)A =\left (\begin{array}{cccc}a_{11} & a_{12} & \cdots & a_{1n} \\a_{21} & a_{22} & \cdots & a_{2n} \\

正交矩阵若n阶方阵A满足ATA=EA^TA = EATA=E, 则称A为正交矩阵, 简称正交阵 (复数域上称为酉矩阵)A是正交阵的充要条件：A的列(行)向量都是单位向量，且两两正交。若A为正交矩阵，x为向量，则Ax称为正交变换正交变换不改变向量的长度 y=Ax,yTy=(Ax)TAx=xTATAx=xTEx=xTxy=Ax, y^Ty = (Ax)^TAx = x^TA^TAx = x^TEx = x^Txy=Ax,yTy=(Ax)TAx=xTATAx=xTEx=xTx正交矩阵的性质

特征值和特征向量A为n阶矩阵，若数λ\lambdaλ和n维非0列向量x满足Ax=λxAx=\lambda xAx=λx, 那么数λ\lambdaλ称为A的特征值，x称为A的对应于特征值λ\lambdaλ的特征向量。并且∣λE−A∣|\lambda E - A|∣λE−A∣叫做A的特征多项式。当特征多项式等于0的时候，称为A的特征方程，特征方程是一个齐次线性方程组，求解特征值的过程其实就是求解特征方程的解。Ax=λx⇒Ax=λEx⇒(λE−A)x=0Ax = \lambda x \Rightarrow

对称矩阵元素以对角线为对称轴对应相等的矩阵就叫做对称矩阵对称矩阵具有的特性对称矩阵中aij=ajia_{ij} = a_{ji}aij​=aji​对称矩阵一定是方阵, 并且对于任何的方阵A, A+ATA + A^TA+AT是对称矩阵除对角线外的其他元素均为0的矩阵叫做对角矩阵矩阵中的每个元素都是实数的对称矩阵叫做实对称矩阵A={a11a12⋯a1na21a22⋯a2n⋯⋯⋯⋯an1an2⋯ann}A =\left \{\begin{array}{cccc}a_{11} & a_{1

向量组向量组：有限个相同维度的行向量或列向量组合成的一个集合就叫做向量组 A=(a1⃗,a2⃗,a3⃗,...,an⃗,...)A = (\vec{a_1}, \vec{a_2}, \vec{a_3}, ..., \vec{a_n}, ...)A=(a1​​,a2​​,a3​​,...,an​​,...)向量组是由多个向量构成，可以表示为矩阵正交向量当∣∣x∣∣=1||x|| = 1∣∣x∣∣=1时，称x为单位向量当∣∣x∣∣≠=0,∣∣y∣∣≠0||x|| \neq = 0, ||y||

引例求解矩阵方程AX=B, 其中 A=(21−312−2−132),B=(1−120−25)A =\left (\begin{array}{cccc}2 & 1 & -3 \\1 & 2 & -2 \\-1 & 3 & 2\end{array} \right ), B =\left (\begin{array}{cccc}1 & -1 \\2 & 0 \\-2 & 5 \end{array} \right )A=⎝⎛​21−1​12

概述用伴随矩阵和行列式求可逆矩阵非常复杂麻烦，尤其是随着n的增大，复杂度让人担忧应对n这个变量，可以使用矩阵的初等变换来求解矩阵的可逆矩阵矩阵的初等变换1） 消元法解线性方程组先来看下这个例子，从x1∼x4x_1 \sim x_4x1​∼x4​ 和 4个方程，求解线性方程组有这样一个方程组{2x1−x2−x3+x4=2①x1+x2−2x3+x4=4②4x1−6x2+2x3−2x4=4③3x1+6x2−9x3+7x4=9④\left \{\begin{array}{cccc}2x_1 -

方阵行列式行列式是数学的一个函数，可以看做是几何空间中，一个线性变换对"面积"或"体积"的影响方阵行列式，n阶方阵A的行列式表示为∣A∣|A|∣A∣ 或者 det(A)1×1的方阵，其行列式等于该元素本身. A=(a11)   ∣A∣=a11A = (a_{11}) \ \ \ |A|= a_{11}A=(a11​)   ∣A∣=a11​2×2的方阵, 其行列式用主对角线元素成绩减去次对角线元素的乘积A=(a11a12a21a22)

线性代数线性(linear)指量(变量)与量(变量)之间按比例、成线性关系，在数学上可以理解为一阶导数为常数的函数非线性(non-linear)是指不成比例、没有直线关系, 一阶导数不是常数的函数线性代数中的基本量指的是向量，基本关系是严格的线性关系，也就是可以简单的将线性代数理解为向量和向量之间的线性关系的映射矩阵矩阵：即描述线性代数中线性关系的参数，即矩阵是一个线性变换，可以将一些向量转换为另一些向量在初等代数中，y=ax表示的是x到y的一种映射关系,其中a是描述这种关系的参数在线性

定积分的性质设所列定积分都存在(1) ∫abf(x)dx=−∫baf(x)dx⇒∫aaf(x)dx=0\int_a^b f(x) dx = - \int_b^a f(x) dx \Rightarrow \int_a^a f(x)dx = 0∫ab​f(x)dx=−∫ba​f(x)dx⇒∫aa​f(x)dx=0(2) ∫abdx=b−a\int_a^b dx = b - a∫ab​dx=b−a(3) ∫abkf(x)dx=k∫abf(x)dx\int_a^b k f(x) dx = k \int_a^

概述积分学不定积分定积分定积分举例1 ）举例 备注：图片托管于github，请确保网络的可访问性 矩形面积：S=ahS = ahS=ah梯形面积：S=h2(a+b)S = \frac{h}{2}(a+b)S=2h​(a+b)2 ) 曲面梯形的面积 备注：图片托管于github，请确保网络的可访问性 设曲边梯形是由连续曲线 y=f(x)(f(x)≥0y = f(x) (f(x) \geq 0y=f

方向导数1 ）定理若函数f(x,y,z)在点P(x,y,z)处可微，沿任意方向l的方向导数 ∂f∂l=∂f∂xcosα+∂f∂ycosβ+∂f∂zcosγ\frac{\partial f}{\partial l} = \frac{\partial f}{\partial x} cos \alpha + \frac{\partial f}{\partial y} cos \beta + \frac{\partial f}{\partial z} cos \gamma∂l∂f​=∂x∂f​cosα+∂y∂

多元函数偏导数在一个多变量的函数中，偏导数就是关于其中一个变量的导数而保持其他变量恒定不变。假定二元函数z=f(x,y)z=f(x,y)z=f(x,y), 点(x_0, y_0)是其定义域内的一个点，将y固定在y0y_0y0​上，而x在x0x_0x0​上增量△x\triangle x△x,相应的函数z有增量△z=f(x0+△x,y0)−f(x0,y0)\triangle z = f(x_0 + \triangle x, y_0) - f(x_0, y_0)△z=f(x0​+△x,y0​)−f(x0​

多元函数1 ） 概念设D为一个非空的n 元有序数组的集合，f为某一确定的对应规则。若对于每一个有序数组 ( x1,x2,…,xn)∈D，通过对应规则f，都有唯一确定的实数y与之对应，则称对应规则f为定义在D上的n元函数。记为y=f(x1,x2,…,xn) 其中 ( x1,x2,…,xn)∈D。 变量x1,x2,…,xn称为自变量，y称为因变量。当n=1时，为一元函数，记为y=f(x),x∈D，当n=2时，为二元函数，记为z=f(x,y),(x,y)∈D。二元及以上的函数统称为多元函数。更好的

泰勒公式的变形我们知道泰勒公式是这样的：f(x)=f(x0)0!+f′(x0)1!(x−x0)+f′′(x0)2!(x−x0)2+...+f(n)(x0)n!(x−x0)n+Rn(x)f(x) = \frac{f(x_0)}{0!} + \frac{f'(x_0)}{1!}(x-x_0) + \frac{f''(x_0)}{2!}(x-x_0)^2 + ... + \frac{f^{(n)(x_0)}}{n!}(x-x_0)^n + R_n(x)f(x)=0!f(x0​)​+1!f′(x0​)​(x−x

Taylor公式的应用机器学习中广泛应用，数学建模，线性回归，预测等领域关于Taylor公式Taylor公式是用一个函数在某点的信息描述其附近取值的公式，如果函数足够平滑，在已知函数在某一点的各阶导数值的情况下Taylor公式可以利用这些导数值来做系数构建一个多项式近似函数在这一点的邻域中的值若函数f(x)在包含x0x_0x0​的某个闭区间[a,b]上具有n阶函数, 且在开区间(a,b)上具有n+1阶函数,则对闭区间[a,b]上任意一点x, 有Taylor公式如下注：f(n)(x)f^{(

穿针引线法又叫做穿线法或数轴穿根法函数f(x)=(x−1)(x−2)3(x−3)2(x−4)   x∈Rf(x)=(x-1)(x-2)^3(x-3)^2(x-4) \ \ \ x \in Rf(x)=(x−1)(x−2)3(x−3)2(x−4)   x∈R, 求f(x)>0f(x)>0f(x)>0时的x范围或f(x)<0f(x)<0f(x)<0时的x范围易见, f(x)=0时，可知该函数的根为：1,2,

导数应用之函数单调性通过函数的导数的值，可以判断出函数的单调性、驻点、极值点若导数>0,则单调递增若导数<0,则单调递减若导数=0,则该点为函数的驻点如果函数的导函数在某一个区间内恒大于零(或恒小于零),那么函数在这一区间内单调递增(或单调递减),这一区间就称为单调区间函数的驻点和不可导点函数有可能取得极大值或极小值(极值可疑点)对于极值点的判断需要判断驻点附近的导函数的值符号，如果存在使得之前区间上导函数值都大于零，而之后的区间上都小于零，那么这个点就是一个极大值点，反之

关于导数导数是数学中非常重要的概念，它能反应出速度变化的快慢，尤其在AI的算法分析，优化以及数据挖掘中用到很多导数的引出引例1变速直线运动的速度s是距离，t是时间，v是速度设描述指点运动的位置函数为 s=f(t)s = f(t)s=f(t)则t0t_0t0​到t的平均速度为 v→=f(t)−f(t0)t−t0\overrightarrow{v} = \frac{f(t) - f(t_0)}{t - t_0}v=t−t0​f(t)−f(t0​)​而在t0t_0t0​时刻的瞬时速度为 v

函数的极限1 ）概述自变量趋于有限值x0x_0x0​时函数的极限x→x0x \to x_0x→x0​x→x0+x \to x_0^+x→x0+​x→x0−x \to x_0^-x→x0−​自变量趋于无穷大时函数的极限x→∞x \to \inftyx→∞x→+∞x \to +\inftyx→+∞x→−∞x \to -\inftyx→−∞以上是函数f(x)自变量变化过程的六种形式2 ) 自变量 x→x0x \to x_0x→x0​ 时函数的极限如何刻画 x→x0x \t

数列极限的定义1 ） 中国古代极限思想庄子：‘截杖说’ : 一尺之棰,日取其半,万世不竭每日杖棰所余长度组成的数列 12,14,18,...,12n,...\frac{1}{2}, \frac{1}{4}, \frac{1}{8}, ..., \frac{1}{2^n}, ...21​,41​,81​,...,2n1​,...该数列中的项随着n的增大，越来越接近0刘徽：‘隔圆术’ ：割之弥细，所失弥少，割之又割，以至于不可割，则与圆合体，而无所失矣基本思想用内接正 6∗2n−16*2^

概率试验1.投掷一个骰子投掷5次2.某人射击1次，击中目标的概率是0.8, 他射击10次；3.一个盒子中装有5个球(3红2白)，有放回依次从中抽取5个球4.生产一种零件，出现次品的概率是0.04，生产这种零件4件以上这些的特点都是：条件相同、独立重复性试验、发生或者不发生、发生的概率相同例子：投掷一枚图钉，设针尖向上的概率为p, 则针尖向下的概率为q = 1 - p. 连续投掷一枚图钉3次，仅出现1次针尖向上的概率是多少？分析：这是一个条件相同，独立重复性试验：P=C31pq2=3pq2

随机变量及其分布1 ） 知识图谱 备注：图片托管于github，请确保网络的可访问性 2 ） 相关概念随机变量：如果随机试验的结果可以用一个变量来标识，那么这样的变量叫做随机变量。随机变量常用字母 X,Y,ξ,ηX, Y, \xi, \etaX,Y,ξ,η 等表示离散型随机变量：对于随机变量可能取的值，可以按一定次序一一列出，这样的随机变量叫做离散型随机变量.连续型随机变量：对于随机变量可能取的值，可以取某一区间内的一切值，这样的变量叫做连续型随机变量.

概率1 ）概率与频率概率是一个稳定的数值,也就是某件事发生或不发生的概率是多少.频率是在一定数量的某件事情上面,发生的数与总数的比值.假设事件A的概率是0.3,在100次中发生28次,那么它的频率是 28/100=0.28频率是有限次数的试验所得的结果, 概率是频数无限大时对应的频率频率的稳定值是概率, 频率随试验次数的不同是变化的,是一个统计规律,但它都在概率附近摆动,而一个事件的概率是不变的2 ） 随机事件及其概率事件：试验的每一种可能的结果，用大写英文字母表示种类：必然事件、不

向量1 ） 概念向量：既有大小，又有方向的量叫做向量，如力、位移等数量：只有大小，没有方向的量称为数量，如年龄、身高、长度、面积、体积、质量等向量和数量的区别：向量有方向，数量没有方向；数量之间可以比较大小，而向量之间不能比较大小零向量：长度为0的向量单位向量：长度为1个单位的向量有向线段：带有方向的线段叫有向线段，其方向是由起点指向终点，以A为起点、B为终点的有向线段记做 AB→\overrightarrow{AB}AB，线段AB的长度也叫做有向线段AB→\overrightarrow{

关于角1 ） 角的概念在数学和物理中，弧度是角的度量单位。它是由国际单位制导出的单位同一三角形中, 等边对等角, 等角对等边直角三角形中, 30度角所对边等于斜边一半直角三角形中, 斜边中线等于斜边一半直角三角形中, 两直角边的平方和等于斜边的平方（勾股定理）等腰三角形中, 两腰相等等腰直角三角形中, 两直角边相等2 ） 任意角正角、负角、零角、象限角的概念与角a终边相同的角的集合: {b∣b=a+2kπ,k∈Z}\{ b | b = a + 2k\pi, k \in Z \}{

计数原理1 ) 分类相加做一件事情，完成它有n类办法，在第一类办法中有m1m_1m1​种不同方法，第二类有m2m_2m2​种不同方法 … 在第n类办法中有mnm_nmn​种不同的方法，完成这件事共有 N=m1+m2+m3+...+mnN = m_1 + m_2 + m_3 + ... + m_nN=m1​+m2​+m3​+...+mn​ 种不同方法2 ) 分步相乘做一件事情，完成它有n个步骤，做第一个步骤有m1m_1m1​种不同方法，第二个步骤有m2m_2m2​种不同方法…做第n个步骤有mnm_nm

数列1 ) 等差数列概念等差数列是指从第二项起，每一项与它的前一项的差等于同一个常数的一种数列。这个常数叫做等差数列的公差，公差常用字母d表示。公式通项公式：an=a1+(n−1)da_n = a_1 + (n - 1)dan​=a1​+(n−1)d， 变形：an=am+(n−m)da_n = a_m + (n-m)dan​=am​+(n−m)d前n项和公式：Sn=na1+n(n−1)2d=na1+n(n−1)2an−a1n−1=n(a1+an)2S_n = na_1 + \frac{n(

直线表示直线的几种形式一般式：ax+by+c=0ax + by + c = 0ax+by+c=0 (a,b不能同时为0)点斜式：y−y1=k(x−x1)y - y_1 = k(x - x_1)y−y1​=k(x−x1​) 直线经过点(x1,y1)(x_1, y_1)(x1​,y1​)斜截式：y=kx+by = kx + by=kx+b截距式：bx+ay−ab=0bx + ay - ab = 0bx+ay−ab=0 当 a、b均不为0时，可写为: xa+yb=1\frac{x}{a} + \fra

反函数1 ) 概念一般地，如果x与y关于某种对应关系f(x)相对应，y = f(x)，则y = f(x)的反函数为 x = f(y) 或者 y=f−1(x)y = f^{-1}(x)y=f−1(x) 后者为常用记发存在反函数(默认为单值函数)的条件是原函数必须是一一对应的(不一定是整个数域内的)，这里的一一对应是定义域和值域的一一对应注意：上标"−1"指的并不是幂, 代表反函数最具有代表性的反函数就是对数函数与指数函数，再比如: y=x3y = x^3y=x3 和 y=x3y = \sqrt[3

数学与AI概述人工智能是70%数学+30%代码，很多算法都是基于数学的，学好数理化，走遍天下都不怕集合1 ） 概念由一个或多个确定的元素所构成的整体叫做集合。若x是集合A的元素，则记作x∈A。集合是指具有某种特定性质的具体的或抽象的对象汇总成的集体，这些对象称为该集合的元素。用大写字母表示集合，小写字母表示集合中的元素。若x是集合S的元素，则称x属于S，记为x∈S。若y不是集合S的元素，则称y不属于S，记为y∉S。一般的我们把含有有限个元素的集合叫做有限集，含无限个元素的集合叫做无限集。

什么是条件充分性判断 两个数学命题 A、 B， 若由条件 A 成立， 就可以推出结论 B 成立 （ 即 A B 是真命题），则 A 是 B 的充分条件， 即 A 具备了使 B 成立的充分性。 若由 A 不能推出 B， 则称 A 不是 B的充分条件， 即 A 不具备使 B 成立的充分性。 简单的说就是 若 A => B 成立， 那么A是B的充分条件。(小范围=>大范围)常用解题方法：