理论
关注
分享
扫一扫
文章平均质量分 90
Baobin Zhang
英国博士后研究助理
展开
-
中心极限定理之为何高斯分布在自然界中广泛存在
为什么自然界中许多随机现象可以用正态分布或 近似正态分布来描述，在计算机视觉，图像处理，机器学习模型中应用尤为广泛。 定理5.5 独立同分布情形下的中心极限定理设有独立同分布的随机变量序列 且 则对任意的实数 有 , 其中 为标准正态分布， 称此序列具有标准正态的极限分布。 定理条件及结论的分析条件： 随机变量 相互独立， 同分布（更一般的有不是同分布也可成立...原创 2019-01-22 20:53:10 · 1602 阅读 · 0 评论 -
泛函分析 - 变分贝叶斯推理 （Variational Inference）
泛函对于普通的函数f(x)，我们可以认为f是一个关于x的一个实数算子，其作用是将实数x映射到实数f(x)。那么类比这种模式，假设存在函数算子F，它是关于f(x)的函数算子，可以将f(x)映射成实数F(f(x)) 。对于f(x)我们是通过改变x来求出f(x)的极值，而在变分中这个x会被替换成一个函数y(x)，我们通过改变x来改变y(x),最后使得F(y(x))求得极值。变分变分:指...原创 2019-03-22 19:41:42 · 2179 阅读 · 0 评论 -
概率论之 -- 边缘分布
边缘分布（Marginal Distribution）指在概率论和统计学的多维随机变量中，只包含其中部分变量的概率分布。中文名：边缘分布 外文名： marginal distribution又名： 边际分布 应用学科 ：概率论，统计学定义假设有一个和两个变量相关的概率分布：关于其中一个特定变量的边缘分布则为给定其...原创 2019-03-25 02:03:55 · 4123 阅读 · 0 评论 -
深度学习非凸优化最新研究成果
美国艾尔弗·斯隆基金会（The Alfred P. Sloan Foundation）公布了2019年斯隆研究奖（Sloan Research Fellowships）获奖名单，华裔学者鬲融获此殊荣。现就其研究专业部分进行总结：鬲融的研究领域为理论计算机科学和机器学习。他在个人主页上写道“深度学习等现代机器学习算法尝试从数据中自动学习有用的隐含表示。那么我们要如何公式化数据中的隐含结构，以及如...原创 2019-03-12 13:05:24 · 3863 阅读 · 0 评论 -
满满思想之平凡而又神奇的贝叶斯方法 -- Part 4
5. 朴素贝叶斯方法朴素贝叶斯方法是一个很特别的方法，所以值得介绍一下。我们用朴素贝叶斯在垃圾邮件过滤中的应用来举例说明。5.1 贝叶斯垃圾邮件过滤器问题是什么？问题是，给定一封邮件，判定它是否属于垃圾邮件。按照先例，我们还是用 D 来表示这封邮件，注意 D 由 N 个单词组成。我们用 h+ 来表示垃圾邮件，h- 表示正常邮件。问题可以形式化地描述为求： ...原创 2019-03-12 12:57:21 · 267 阅读 · 0 评论 -
满满思想之平凡而又神奇的贝叶斯方法 -- Part 3
4. 无处不在的贝叶斯以下我们再举一些实际例子来说明贝叶斯方法被运用的普遍性，这里主要集中在机器学习方面，因为我不是学经济的，否则还可以找到一堆经济学的例子。4.1 中文分词贝叶斯是机器学习的核心方法之一。比如中文分词领域就用到了贝叶斯。Google 研究员吴军在《数学之美》系列中就有一篇是介绍中文分词的，这里只介绍一下核心的思想，不做赘述，详细请参考吴军的文章（这里）。...原创 2019-03-12 12:50:57 · 210 阅读 · 0 评论 -
满满思想之平凡而又神奇的贝叶斯方法 -- Part 2
3. 模型比较与奥卡姆剃刀3.1 再访拼写纠正介绍了贝叶斯拼写纠正之后，接下来的一个自然而然的问题就来了：“为什么？”为什么要用贝叶斯公式？为什么贝叶斯公式在这里可以用？我们可以很容易地领会为什么贝叶斯公式用在前面介绍的那个男生女生长裤裙子的问题里是正确的。但为什么这里？为了回答这个问题，一个常见的思路就是想想：非得这样吗？因为如果你想到了另一种做法并且证明了它也是靠谱的，那么将...原创 2019-03-12 12:41:03 · 202 阅读 · 0 评论 -
满满思想之平凡而又神奇的贝叶斯方法 -- Part 1
最近读到文章平凡而又神奇的贝叶斯方法，文中满满思想，作者以科普的角度来通过各个方面的例子介绍贝叶斯方法以及其背后的思想，现将其记录下来，与各位分享。 概率论只不过是把常识用数学公式表达了出来。 ...原创 2019-03-12 12:32:50 · 257 阅读 · 0 评论 -
Gaussian Processes Regression(GPR) 高斯过程回归 Matlab 实现
高斯过程回归（GPR）的matlab 实现， Matlab 为实现高斯过程回归提供了接口函数fitrgp, 详细参考fitrgp官方文档 非常详细[4]语法:gprMdl = fitrgp(tbl,ResponseVarName)gprMdl = fitrgp(tbl,formula)gprMdl = fitrgp(tbl,y)gprMdl = fitrgp(X,y)...原创 2019-03-14 01:46:35 · 26558 阅读 · 9 评论 -
多维高斯分布
我们常见的一维高斯分布公式为： 拓展到高维就变成： 其中，表示维度为的向量，则是这些向量的平均值，表示所有向量的协方差矩...原创 2019-03-06 18:00:41 · 5817 阅读 · 0 评论 -
Gaussian Processes for Regression | Classification
Some pointer advice about the Gaussian process regressionDefinition of a Gaussian Process from [1]Gaussian processes are a simple and general class of models of functions. To be precise, a GP ...原创 2019-03-08 14:35:04 · 408 阅读 · 0 评论 -
机器学习 参数模型与非参数模型
参数模型，非参模型的简单理解参数模型：参数机器学习算法假设可以最大程度地简化学习过程，与此同时也限制可以学习到是什么。这种算法简化成一个已知的函数形式，这称为参数机器学习算法，简单理解为 对学到的函数方程有特定的形式 -- 比如线性回归模型，就是一次方程的形式，然后通过训练数据学习到具体的参数。非参模型：不对所要学习到的函数做强烈的假设的算法称为非参模型，不做假设，他可...原创 2019-05-31 16:31:51 · 1183 阅读 · 0 评论