
机器学习数学基础
lsjmax
这个作者很懒,什么都没留下…
展开
-
机器学习数学基础之极限
极限极限定义无穷小和无穷大定义无穷比大小夹逼定理重要极限本文为作者本人学习过程中的一些重要笔记记录,只为方便以后复习查看。极限定义对于任意正数ε\varepsilonε>0,存在正数δ\deltaδ使得当0<∣x−x0∣<δ0<|x-x_0|<\delta0<∣x−x0∣<δ时,有∣f(x)−L∣<ε|f(x)-L|<\varepsil...原创 2019-09-19 15:25:26 · 329 阅读 · 0 评论 -
机器学习数学基础之微分
导数定义f(x)f(x)f(x)在x0x_0x0附近有定义,且存在极限limx→x0f(x)−f(x0)x−x0=L\lim_{x\rightarrow x_0}{{f(x)-f(x_0)}\over {x-x_0}}=Lx→x0limx−x0f(x)−f(x0)=L那么f(x)f(x)f(x)在x0x_0x0处可导,导数f′(x)=Lf^\prime(x)=Lf′(x)=L...原创 2019-09-19 20:58:55 · 220 阅读 · 0 评论 -
凸函数定义判定和性质简介
凸集给定集合SSS,对任意元素x1x_1x1,x2x_2x2属于该集合SSS,若对于任意ϑ∈[0,1]\vartheta\in[0,1]ϑ∈[0,1],有x=ϑx1+(1−ϑ)x2x=\vartheta x_1+(1-\vartheta )x_2x=ϑx1+(1−ϑ)x2,xxx也在集合SSS中,则集合SSS是凸集。以向量的角度来理解,就是点x1x_1x1、x2x_2x2在集合SS...原创 2019-09-27 16:11:57 · 5086 阅读 · 0 评论 -
贝叶斯公式和共轭分布
概率密度函数概率密度函数是对于连续随机变量而言,对于离散随机变量没有所谓的概率密度。连续随机变量的取值是无穷多个的,研究连续随机变量具体等于某个值的概率是没有意义的,该值很小几乎为0,只能研究某个区间内的概率。通常我们研究连续随机变量的概率,是研究随机变量XXX值落在区间[a,b][a,b][a,b]的概率,P([a,b])=∫abf(x)dxP([a,b])=\int_a^b f(x)dx ...原创 2019-09-30 18:23:21 · 581 阅读 · 0 评论 -
大数定律和中心极限定理
随机变量的矩XXX是一个随机变量,f(x)f(x)f(x)为概率密度函数,对于任何正整数nnn,定义E(Xn)=∫p(x)xndxE(X^n)=\int p(x)x^ndxE(Xn)=∫p(x)xndx为随机变量的nnn阶矩。当nnn=1,E(X)E(X)E(X)为随机变量的期望,可以理解为平均值。当nnn=2,E(X2)−E(X)2=E((X−E(X))2)E(X^2)-E(X)^2=...原创 2019-09-30 18:24:35 · 543 阅读 · 0 评论 -
参数估计
参数估计已知一个随机变量XXX的分布函数Fθ(x)F_\theta(x)Fθ(x),其中θ=(θ1,θ2……θk)\theta =(\theta_1,\theta_2……\theta_k)θ=(θ1,θ2……θk)为未知的参数。利用样本X1,X2,X3...XnX_1,X_2,X_3...X_nX1,X2,X3...Xn对未知参数θ\thetaθ进行估计,或者估计θ\theta...原创 2019-10-01 17:10:27 · 409 阅读 · 0 评论