bytes9的专栏

RBM 是基于能量函数的无向图模型。将图节点分为可见层节点v和隐藏层节点h，其联合概率分布p(h,v)可表示为 其中，能量函数。 利用RBM计算p(h|v)的概率，即在可见层已知时，计算隐藏层h的概率。要根据v推断h,可求argmax p(h|v)。先得通过训练样本来估计模型参数。 采用极大似然估计，梯度上升算法。由于训练数据只有可见节点，对数似然函数为： N是样本数。 ...

要从p(x)中采样，找到一个状态转移概率,满足细致平稳条件：，来构造一个平稳分布为p(x)的马尔科夫链。metropolis-hastings算法的状态转移概率构造方式如下： 可以证明上述T能够满足细致平稳条件。 当满足细致平稳分布时，的分布的分布相同。证明如下： 1)马尔科夫性有： 2）因满足细致平稳条件，上式右边等于 3）因为 4）所以右边等于左边，等式成立。 ...

一、分类 1.内部排序和外部排序　 内部排序：待排序记录存放在计算机随机存储器中（说简单点，就是内存）进行的排序过程。 外部排序：待排序记录的数量很大，以致于内存不能一次容纳全部记录，所以在排序过程中需要对外存进行访问的排序过程。 2.比较类排序和非比较排序 比较类排序：通过比较来决定元素间的相对次序，由于其时间复杂度不能突破O(nlogn)，因此也称为非线性时间比较类排序。 非比较类排序：不通过比较来决定元素间的相对次序，它可以突破基于比较排序的时间下界，以线性时间运行，因此也称为线性...