CNN的池化分类

最新推荐文章于 2024-12-04 09:21:14 发布

lanlangaoyanjiu

最新推荐文章于 2024-12-04 09:21:14 发布

阅读量1.4k

点赞数

CC 4.0 BY-SA版权

本文链接：https://blog.youkuaiyun.com/qq_31908897/article/details/90607050

本文介绍了CNN中两种池化操作：Max Pooling Over Time和K-Max Pooling。Max Pooling Over Time通过取最大值保持位置与旋转不变性，适合图像处理，但可能丢失NLP中位置信息。K-Max Pooling保留Top-K特征及其顺序，兼顾特征强度和部分位置信息，更适用于NLP任务。Chunk-Max Pooling则是在特征分段内取最大值，提供一种局部Top K的策略。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

在这里插入图片描述
池化层（Pooling）:对filter的特征进行降维操作，形成最终特征。

分类

1、Max Pooling Over Time操作
MaxPooling Over Time是NLP中CNN模型中最常见的一种下采样操作。
意思是对于某个Filter抽取到若干特征值，只取其中得分最大的那个值作为Pooling层保留值，其它特征值全部抛弃，值最大代表只保留这些特征中最强的，而抛弃其它弱的此类特征。
优点：这个操作可以保证特征的位置与旋转不变性，因为不论这个强特征在哪个位置出现，都会不考虑其出现位置而能把它提出来。对于图像处理来说这种位置与旋转不变性是很好的特性。再者，对于NLP任务来说，Max Pooling有个额外的好处；在此处，可以把变长的输入X整理成固定长度的输入。
缺点：但是对于NLP来说，这个特性其实并不一定是好事，因为在很多NLP的应用场合，特征的出现位置信息是很重要的。
在这里插入图片描述
2、K-Max Pooling
思想：原先的Max Pooling Over Time从Convolution层一系列特征值中只取最强的那个值（从Convolution层取出了K个特征值。）。K-Max Pooling可以取所有特征值中得分在Top –K的值，并保留这些特征值原始的先后顺序（图3是2-max Pooling的示意图），就是说通过多保留一些特征信息供后续阶段使用。