高斯过程 Gaussian Process

于 2023-10-30 11:54:47 发布
阅读量325 收藏 1
点赞数
文章标签： 机器学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/WSQ_2000/article/details/134116134
版权
本文介绍了高斯过程(GP)在回归中的应用，包括其作为多元正态分布的表示，以及边缘分布和条件分布的概念。重点讲解了核函数的作用，如何选择和优化，以及在Matlab中的实际应用，涉及长度尺度、输出尺度和噪声标准差等参数的解释。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

What does GP do?

  • GP是一种回归方法，但也能够用来分类和聚类
  • 均值表示数据最有可能出现的位置

多变量高斯分布

  • X ∼ N ( μ , Σ ) X\sim N(\mu,\Sigma) X∼N(μ,Σ): 包含的信息有每个变量的均值和协方差矩阵
  • 均值决定分布中心
  • 协方差矩阵确定形状

Marginalization & Conditioning

  • 高斯过程的基础：边缘分布和条件分布依然是高斯
    • 边缘分布：从联合概率分布分离出一个随机变量的概率分布
    • 条件分布：从两个变量的概率分布得到条件随机变量的概率分布

高斯过程

  • 函数的离散化表示：
    • test point: 我们感兴趣预测的一系列离散的、具体的点
  • 高斯过程是一个随机过程，是一个随机变量序列。假设这个序列的长度为 n n n，则这些序列就构成一个 n n n维高斯分布
  • 高斯过程将训练点 Y Y Y和测试点 X X X放在一起建模为一个 n = ∣ X ∣ + ∣ Y ∣ n=|X|+|Y| n=∣X∣+
最低0.47元/天 解锁文章
ALL 2 WELL
关注
高斯过程回归 | Python高斯过程 Gaussian Process
算法如诗的博客
12-10 348
高斯过程回归 | Python高斯过程 Gaussian Process
《随机过程》学习笔记--高斯过程()
一蓑烟雨
12-13 3979
高斯过程之条件分布(Conditional Distribution)设X=(X1,X2)∈Rm×n∼N(μ,Σ)X=(X_1,X_2)\in \mathbb{R}^{m\times n}\sim N(\mu,\Sigma)，其中X1∈Rm,X2∈Rn,μ=(μ1,μ2),μ1=E(X1),μ2=E(X2),Σ∈R(m+n)×(m+n)X_1\in \mathbb{R}^m, X_2\in \mat
高斯过程的模拟/采样/生成
shenxiaolu1984的专栏
12-23 1万+
从标准高斯随机变量生成任意高斯过程
机器学习之高斯过程
weixin_47166032的博客
10-01 7257
高斯过程(Gaussian Process) 在机器学习领域里，高斯过程是一种假设训练数据来自无限空间、并且各特征都符合高斯分布的有监督建模方式。高斯过程是一种概率模型，无论是回归或者分类预测都以高斯分布标准差的方式给出预测置信区间估计。什么是置信区间？置信区间是指由样本统计量所构造的总体参数的估计区间。在统计学中，一个概率样本的置信区间（Confidence interval）是对这个样本的某个总体参数的区间估计。置信区间展现的是这个参数的真实值有一定概率落在测量结果的周围的程度。置信区间给出的是被测量参
机器学习中的高斯过程
Code
12-16 6637
  0.前言 写这篇文章的目的就是为了总结一下最近在学习的高斯过程的一些内容，但是由于我是初学者可能有些地方理解不到位，请大家多多谅解~文末附上了一些数学方面的推导。 1. 高斯过程定义 高斯过程是在连续域上定义的一种随机过程，可以看成连续域中所有随机变量的一组集合，并且任意单个或多个随机变量均满足一维高斯分布或者多维高斯分布。 一个高斯过程可以由一个均值函数以及一个协方差函数(也叫ke...
高斯过程是什么？从视觉上理解机器学习中的高斯过程——Gaussian Process
一个苦逼研究僧的博客
10-30 4099
高斯过程Gaussian Process是什么？
MCMC算法--Gibbs采样2：多元高斯分布的边际分布与条件分布推导
Eric2016_Lv的博客
03-30 3319
因为在下篇博客中会介绍Gibbs采样，代码示例用到的是多元高斯分布，所以对条件分布，边际分布公式必须写出来，所以博主整理了下。 参考文献为：http://fourier.eng.hmc.edu/e161/lectures/gaussianprocess/node7.html 由于文献中有几处错误，博主特意修正了下，呈现在下文中： （BTW，当然大家也可以去我的资源下载pdf文件：https:...
透彻理解高斯过程Gaussian Process (GP)
热门推荐
冯喆--AI工匠
08-18 7万+
透彻理解高斯过程Gaussian Process (GP) 一、整体说说 为了理解高斯过程，我们就首先需要准备一下预备知识，即：高斯分布、随机过程以及贝叶斯概率等。明白了这些预备知识之后才能顺利进入高斯过程，了解高斯过程本质及其高斯过程描述方法。人们又将高斯过程与贝叶斯概率有机结合在一起，构造了强大的数学方法（或称模型），为人类提供解决日常生活和工作的问题。特别是在人工智能领域更是意义非凡。为...
高斯随机过程
qq_43776408的博客
07-28 1万+
随机过程包含平稳过程，随机过程可以用分布函数和概率密度函数描述，但是比较复杂，所以我们可以用均值和方差描述随机过程，而平稳过程包含严平稳过程，而平稳过程满足一定的条件就具有各态历经性 高斯过程：随机过程kesei(t)的任意n维分布服从正态分布，则称它为高斯过程，也就是说自变量满足正态分布。高斯分布不一定是平稳分布，要判断高斯过程是不是平稳过程，还要判断一维和二维，和之前判断一样的。 书上44页有...
一元高斯分布&多元高斯分布&高斯过程&混合高斯模型
Ona_Soton的博客
01-25 6064
高斯分布，又称正态分布，应用于连续型随机变量分布的模型中，对于多元高斯分布存在和一元高斯相似的，对于多元实值向量，使熵取得最大值的是高斯分布。当多个随机变量之和相加时，根据拉普拉斯提出的中心极限定理（central limit theorem），⼀组随机变量之和（当然也是随机变量）的概率分布随着和式中项的数量的增加⽽逐渐趋向⾼斯分布，在实际应用中，随着样本数量的增加，分布会迅速收敛为高斯分布，二项分布当观测次数增多时，也会趋向于高斯分布（二项分布、泊松分布和正态分布的区别及联系? - 知乎）。 首先，..
GP-VAE: Deep Probabilistic Time Series Imputation 笔记
最新发布
YYY7的博客
05-26 1170
GP-VAE的论文笔记
高斯过程（GP）
weixin_30536513的博客
12-23 1928
随机过程基本概念： 随机过程是一个比随机变量更广泛的概念。在概率论中，通常研究一个或多个这样有限个数的随机变量，即使在大数定律和中心极限定理中考虑了无穷多个随机变量，但也要假设随机变量之间互相独立。而随机过程主要是研究无穷多个互相不独立的、有一定相关关系的随机变量。随机过程就是许多随机变量的集合，代表了某个随机系统随着某个指示向量的变化，这个指示向量常用的是时间向量 其中指标集合T：...
高斯过程（Gaussian Processes）原理
ting_qifengl的博客
11-30 5万+
高斯过程（Gaussian Processes, GP）是概率论和数理统计中随机过程的一种，是多元高斯分布的扩展，被应用于机器学习、信号处理等领域。博主在阅读了数篇文章和博客后才算是基本搞懂了GP的原理，特此记录。本文目前暂对高斯过程的公式推导和高斯过程回归原理及其优缺点进行讲解和阐述，后续根据个人学习进度再更新源码等内容。 一、一维高斯分布 我们从最简单最常见的一维高斯分布开始。 众所周知，一维高斯分布，又叫一维正态分布的概率密度函数为： 式中，表示均值，表示方差，均值和方差唯一的决定了曲线的
高斯过程
lijiankou的专栏
08-21 6643
高斯过程是定义在y上的高斯分布。高斯过程与核函数紧密相连，定义在y上的高斯分布正是通过核函数表示出来的。与线性回归相比，高斯过程没有建立y和x的直接关系，而是通过核函数的方式直接建立y之间的关系。在线性回归模型中，我们假设某个y的取值服从一个高斯分布，即y的均值是参数w的一个线性关系，和之间的关系通过w的协方差表现出来。如果给定一个先验,那么可以计算出y的协方差矩阵，如下：  (1)
概率部分:条件高斯分布
zhongkeli的专栏
05-22 7609
需要pdf版的可以留言 参考：pattern recognition and machine learning
条件分布
sunshine博客
05-24 6994
1.离散型： 例1： 2.连续型：
概率论笔记：高斯分布的条件概率
qq_40206371的博客
11-04 4017
1 符号说明 将变量、均值和方差进行划分（xa是m维的，xb是n维的）： 其中x满足N(μ,Σ），μ,Σ满足： 条件概率就是需要求解P(xa|xb)和P(xb|xa) 2 需要用到的定理 2.1 定理的说明 这个证明不严谨，但是方便说明 3 舒尔补 4 计算条件概率 条件概率再高斯过程回归中需要用到 机器学习笔记：高斯过程_UQI-LIUWJ的博客-优快云博客 我们首先计算的分布，根据2的定理有： 现在可以得到。根据与的关系可以得到的...
高斯分布
追
03-04 5万+
从高斯分布到贝叶斯滤波高斯分布高斯分布概念高斯分布特性贝叶斯滤波 高斯分布 高斯分布概念 高斯分布（正态分布）是一个常见的连续概率分布。正态分布的数学期望值或期望值μ{\displaystyle \mu }μ 等于位置参数，决定了分布的位置；其方差σ2\sigma ^{2}σ2的开平方或标准差σ\sigmaσ 等于尺度参数，决定了分布的幅度。正态分布的概率密度函数曲线呈钟形，因此人们又经常称之为钟...
高斯过程在机器学习中的应用
这本书由麻省理工学院出版社于2006年出版，ISBN号为026218253X，并可在www.GaussianProcess.org/gpml获取相关资源。此外，这本书还被归类在由Thomas Dietterich主编的‘Adaptive Computation and Machine Learning’...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值