二维网格中临界温度与连接离散度的关系及一类时标型时变系统的有界性与稳定性
二维网格中临界温度与连接离散度的关系
在计算机视觉和机器学习的诸多问题里,概率计算往往可归结为寻找归一化常数(配分函数)。本文聚焦于二维最近邻伊辛模型,该模型中相邻元素间的平均相互作用近乎恒定,仅伴有少量噪声。
研究背景
当下,神经网络领域多倾向于发展有监督学习方法。然而,存在一些问题中标记数据稀缺甚至没有,此时无监督学习便成为唯一可行的途径。无监督学习常与数据降维和聚类相结合,自编码器便是典型示例。不过,随着前馈神经网络快速优化方法的出现,人们对自编码器的兴趣大幅下降。
对于深度自编码器(如受限玻尔兹曼机)的学习方法之一,是最大化贝叶斯神经网络的似然函数。而计算似然函数梯度则需通过近似方法(如对比散度)来寻找归一化常数。多数情况下,精确计算归一化常数十分困难,仅有少数模型能够实现。本文研究的无外场二维伊辛模型便是其中之一。该模型具有很好的研究价值,一方面平面网格可视为图像像素集合;另一方面,统计物理学为其提供了昂萨格解,且费舍尔 - 卡斯特莱因算法能对任意有限二维网格和任意相互作用系数进行数值求解。
问题描述
从物理学角度出发,设有一组由哈密顿量描述的 $N$ 个二元自旋:
$E = - \frac{1}{2N} \sum_{i,j = 1}^{N} J_{ij} s_i s_j$,其中 $s_i = \pm 1$。
此函数常用于机器学习和图像处理问题。$s_i = \pm 1$ 表示像素属于两个类别(背景或对象)之一,或贝叶斯神经网络中神经元的活动状态。在特定温度下,系统处于状态 $s$ 的概率为:
$P(
超级会员免费看
订阅专栏 解锁全文

被折叠的 条评论
为什么被折叠?



