- 博客(2)
- 收藏
- 关注
RSS订阅原创 贝叶斯优化 Bayesian Optimization
一、介绍 在机器学习的许多模型中，包括决策树、支持向量机、神经网络，都存在着大量的超参数需要凭经验设定（学习率、决策树深度、神经元个数等），也可以使用grid search或者random search的方法进行自动设置。本文介绍另外一种自动化调参的方法贝叶斯优化（Bayesian Optimization,BO）。二、问题描述 优化问题的数学形式可以表示为:x∗=argmaxxf(x)x^* = \mathop{argmax}\limits_{x} f(x)x∗=xargmaxf(x)
2021-04-05 09:56:31
2627
原创 高斯过程 Gaussian Process
一、什么是高斯过程 高斯过程是一种随机过程，即按时间或者空间索引的随机变量的集合。这个集合中的有限个随机变量构成多维高斯分布。高斯过程就是这个集合中所有随机变量(无限多个)的联合分布。二、高斯分布2.1 一元高斯分布 一元高斯分布的概率密度函数为：f(x)=1σ2πe−12(x−μσ)2(1)f(x) = \frac{1}{\sigma\sqrt{2\pi}}e^{-\frac{1}{2}(\frac{x-\mu}{\sigma})^2}\tag{1}f(x)=σ2π1e−21(σx
2021-04-05 09:38:52
7990
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人