基于卷积神经网络的信号调制识别混合剪枝方法
1. 引言
自动调制识别(AMR)是无线通信中的关键技术,在信息拦截、干扰选择等众多领域广泛应用。卷积神经网络(CNN)在AMR任务中表现出色,但也存在计算复杂度高和参数量大的问题。当考虑将其部署到嵌入式或移动设备时,会受到内存使用、计算能力和能耗等诸多限制。
为解决这些问题,目前流行的方法有模型轻量化设计、模型加权、低秩分解、知识蒸馏和模型剪枝等。其中,神经网络剪枝在新兴应用中展现出实用性、有效性和高效性,它是一种后处理模型压缩方案,能在不严重影响模型性能的前提下,去除神经网络中的弱连接或贡献较小的神经元,以获得更小的模型、更快的推理速度。
剪枝可分为非结构化剪枝和结构化剪枝:
- 非结构化剪枝 :考虑每个滤波器权重中的每个元素,删除值为0的权重参数,得到稀疏权重矩阵。它灵活性和泛化性高,通常能实现较高的压缩比,但在通用硬件上难以实现显著的性能提升。
- 结构化剪枝 :大致分为滤波器剪枝、通道剪枝和层剪枝。由于删除了模型中某些层的整个滤波器和通道,模型结构规则,不受硬件限制,能显著减少模型参数数量并获得加速效果,但对微调模型的性能影响较大,会导致分类任务中精度的不可修复损失。
为了更好地实现以最低精度损失换取最高压缩比的目标,本文提出了一种基于结构化剪枝的混合剪枝方法,结合滤波器级和层级别剪枝方法,构建了一个简单有效的神经网络剪枝方案,并将其应用于信号调制识别分类任务。
2. 相关工作
2.1 信号调制识别
目前基于深度学习的信号调制识别主要有以下三种思
超级会员免费看
订阅专栏 解锁全文
33

被折叠的 条评论
为什么被折叠?



