复杂场景下的3D物体分类
1. 受限玻尔兹曼机(RBM)与采样方法
RBM 代表了隐藏单元层 ( h = (h_1, …, h_n) ) 与输入的可见单元 ( x = (x_1, …, x_d) ) 以及目标 ( y ) 之间联合分布 ( p(y, x, h) ) 的参数模型:
[p(y, x, h) \propto e^{-E(y,x,h)}]
其中,
[E(y, x, h) = -h’W x - b’x - c’h - d’y - h’Uy]
这里 ( \theta = (W, b, c, d, U) ) 是模型参数,对于 ( C ) 个类别,( y = (1_{y=j})_{j=1}^C )。
在训练 RBM 时,常用的梯度近似方法有:
- 对比散度(CD)算法 :首先运行一个以训练集数据初始化的吉布斯链。当定义二进制隐藏单元时,重新计算可见值。最后一步,通过隐藏和可见单元的值计算隐藏单元的概率。
- 持久对比散度(PCD)算法 :为克服 CD 算法不精确的局限性,Tieleman 提出了该算法,仅使用上一次更新步骤中的最终链状态。
- 持久对比散度中的自由能(FEPCD)算法 :Keyvanrad 和 Homayounpour 提出的新 RBM 训练方法,使用自由能作为从生成模型中获取最佳样本的标准。
2. 深度信念网络(DBN)架构
DBN 有两种常见架构:生成式 DBN(GDBN)和判别式 DBN(DDBN),它们都使用贪婪逐层算法。
超级会员免费看
订阅专栏 解锁全文
3212

被折叠的 条评论
为什么被折叠?



