沈波的专栏

Sparse Autoencoder学习总结昨天编写了利用神经网络实现Sparse Autoencoder的程序，感觉很是受用，简单谈谈自己对它的理解。自编码神经网络是一种无监督学习算法，它使用了反向传播算法，并让目标值等于输入值，比如  。下图是一个自编码神经网络的示例。自编码神经网络尝试学习一个  的函数。换句话说，它尝试逼近一个恒等函数，从而使得输出  接近于输入

从自联想神经网络到深度神经网络深度神经网路已经在语音识别，图像识别等领域取得前所未有的成功。本人在多年之前也曾接触过神经网络。本系列文章主要记录自己对深度神经网络的一些学习心得。第六篇，简要描述深度神经网络模型。1.  自联想神经网络与深度网络      自联想神经网络是很古老的神经网络模型，简单的说，它就是三层BP网络，

深度学习(Deep Learning,DL)DL是人工智能的一场革命1第一人（提出者）由加拿大多伦多大学计算机系(Departmentof Computer Science ,University of Toronto) 的教授Geoffrey E. Hinton于2006年提出。其个人网站是：http://www.cs.toronto.edu/~hinton/science上的那篇论文：ht

受限玻尔兹曼机用于协同过滤受限玻尔兹曼机是一种生成式随机神经网络(generative stochastic neural network), 详细介绍可见我的博文《受限玻尔兹曼机(RBM)简介》, 本文主要介绍RBM在协同过滤的应用。1. 受限玻尔兹曼机简单介绍  传统的受限玻尔兹曼机是一种如下图所示, 其由一些可见单元(visible unit，对应可见变量，亦即数

受限玻尔兹曼机（Restricted Boltzmann Machines,RBM）最近，看了几篇关于RBM的论文，有关RBM的理论公式真心很难理解，尤其是一些涉及概率论的公式推导，但是RBM的具体原理其实还是很简单的。目前本人还在学习中，先简单总结一下自己的理解：RBM产生的背景：玻尔兹曼机是Hinton在1986年提出的一种根植于统计力学的随机神经网络，这种网络中的神经元是随机神经