- 博客(3)
- 收藏
- 关注
原创 ELBO公式推导 (variational inference)
Variational inference (变分推论)是为了解决当真实后验分布难以计算的情况下 (通常是因为无法直接计算),用一个方便学习的分布来近似真实后验分布.因此 对x的log-likelihood function可以写成. 其中是让学到的分布去接近真实后验分布,是variational lower bound,也叫evidence lower bound (ELBO).下面来计算:以上为一个简单的ELBO形式再继续往下推:...
2020-12-11 14:49:08
9906
原创 详解Markov Chain Monte Carlo (MCMC)
MCMC的本质是通过Markov Chain的stationary distribution(平稳分布)来指导随机采样的一种方法。说到MCMC, 首先要先了解什么是Monte Carlo和Markov Chain。1. Monte Carlo (蒙特卡罗方法):蒙特卡罗方法是指通过构造符合一定规则的随机数来解决数学上的各种问题,本质是根据采样来做估计期望(estimate expected value by sampling),用公式表达:就是根据x的分布p(x)来采样,并估算f(x)...
2020-11-12 12:00:24
2390
1
转载 Tensorflow数据读取有三种方式
Tensorflow数据读取有三种方式:Preloaded data: 预加载数据 Feeding: Python产生数据,再把数据喂给后端。 Reading from file: 从文件中直接读取这三种有读取方式有什么区别呢? 我们首先要知道TensorFlow(TF)是怎么样工作的。TF的核心是用C++写的,这样的好处是运行快,缺点是调用不灵活。而Python恰好相反,所以结合两...
2019-12-02 17:29:26
224
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人