【每周一文】Convolutional Neural Networks And Application for NLP

概述

卷积神经网络的提出主要是应用于图像识别，由于其效果比较显著逐渐扩展到语音识别和自然语言处理等领域。本文主要介绍
1. 卷积的概念
2. 卷积神经网络
3. 卷积神经网络在NLP中的应用
4. 总结

卷积

一维（1D）卷积

根据维基百科上的定义，一维卷积定义如下：

$$f(x)*g(x)=\int_{-\infty}^{\infty}f(\tau)g(x-\tau)d\tau$$
解释如下
1. 卷积是关于两个函数之间的某种联系。
2. 卷积是通过积分得到（离散情况下，通过累加得到），并且积分自变量和x无关
3. 卷积变换可以看做傅里叶变换，将不变量转换为变量的累加。

一维卷积示例

假设从某高处丢小球，小球有一定概率跌落不同的高度，例如

p(x=0.8)=0.4