在看这篇博客之前希望同学们看一下下面这篇博客,我的这篇博客对于一些很基础的名词解释,来源没有介绍,在下面这篇博客会有介绍:
Stein variational gradient descent(SVGD)-优快云博客
摘要:本文的核心只弄懂一个问题:为什么可以使用核函数找到光滑向量函数,使得
是贝叶斯神经网络BNN的梯度方向,即为什么粒子沿着
运动,参数会收敛?当然,本文也会对SVGD做一个详细的背景介绍,它是什么?从哪里来?到哪里去——解决什么问题?它的过程是什么?然后是本文的重点:
为什么会起到梯度的效果?它是怎么算的?(可以直接看视频)
背景、过程介绍:
1. SVGD是什么?从哪里来?
SVGD是这个:
就是下图使下式的