weixin_62472350的博客

多模态情感分析领域，本文提出了自适应存储引导的多模态Transformer（ALMT），该方法采用自适应超模态学习（AHL）模块，在不同尺度的语言特征指导下，从视觉和听觉特征中学习出一种无关/冲突抑制表征。

至此，难点集合就学习完了。这里其实就是公式计算。

这是对Transformer模型Word Embedding、Postion Embedding、Encoder self-attention mask、intra-attention mask内容的续篇。

前言这是对Transformer模型的Word Embedding、Postion Embedding、Encoder self-attention mask内容的续篇。

这是对Transformer模型的Word Embedding、Postion Embedding内容的续篇。

这是对上一篇WordEmbedding的续篇PositionEmbedding。

接下来就是构造embedding了，这里nn.Embedding()传入了两个参数，第一个是embedding的长度，也就是单词个数+1，+1的原因是因为有个0是作为填充的，第二个参数就是embedding的维度，也就是一个单词会被映射为多少维度的向量。这里把tgt的也补充了，得到的就是src和tgt的内容各自在一个二维张量里（batch_size，max_seg_len），batch_size也就是句子数，max_seg_len也就是句子的单词数（分为src的长度跟tgt两种）。