一、文章主要创新点
1.将乘法变成卷积
用convolution ALSTM(卷积注意力网络)代替传统的ALSTM(注意力网络),说白了就是把LSTM和soft attention模型中所有的乘法都变成卷积,LSTM网络的输入不再是一个向量,而是一个二维的数组,这样可以保存feature map在空间上的关系。
LSTM内部各个门的更新方程,乘法全部变成卷积
注意力模型,也变成卷积

2.改变attention模型
之前的注意力模型都是用当前状态的输入和上一时刻的隐藏状态,
通过加上一层bottom layer(其实就是一层LSTM)

本文介绍了VideoLSTM的两个创新点:一是将乘法操作替换为卷积,保留特征映射的空间关系;二是改进注意力模型,使注意力依据当前帧而非前一帧的隐藏状态进行更新,通过底部LSTM层生成基于运动的注意力。
最低0.47元/天 解锁文章
1446





