任务
- 卷积运算的定义、动机(稀疏权重、参数共享、等变表示)。一维卷积运算和二维卷积运算。
- 池化运算的定义、种类(最大池化、平均池化等)、动机。
- Text-CNN的原理。
- 利用Text-CNN模型来进行文本分类。
卷积运算
卷积神经网络CNN(Convolution Neural Network) 在数字图像处理领域取得了巨大的成功,从而掀起了深度学习在自然语言处理领域(Natural Language Processing, NLP)的狂潮。
卷积是一种运算方式,最早用于数字信号处理中,这里就不展开说明,自行百度了解,那在机器学习,卷积的形式化表示是什么呢?
c i = f ( ∑ w x + b ) c_i=f(\sum{wx}+b) ci=f(∑wx+b)
这个公式如何理解呢?看图:
首先我们看到
- Input Vloum:左边灰色7 * 7的表格有3个,也就是773
- Filter W0 :3 * 3 * 3
- Filter W1 :3 * 3 * 3
- Input Vloum :3 * 3 * 2<