卷积运算优化学习笔记

系列文章目录

神经网络优化学习笔记

---

前言

对于卷积神经网络，卷积是其核心运算，是制约深度卷积神经网络运算速度的重要原因。本文将会详细介绍各种卷积运算的优化方法并补充相应的卷积算法的基础知识，如卷积的不同表现形式——传统乘加表示，多项式的表示， 矩阵的表示形式。

---

一. 卷积运算的定义

• 一维线性卷积

  • 传统乘加表示
    • 输入序列 ： { x 0 , x 1 , ⋯   , x N − 1 } \{ x_0, x_1, \cdots, x_{N-1}\} { x0​,x1​,⋯,xN−1​}
    • 卷积核 ： { h 0 , h 1 , ⋯   , h K − 1 } \{ h_0, h_1, \cdots, h_{K-1}\} { h0​,h1​,⋯,h