Transformer 模型

最新推荐文章于 2025-12-15 11:45:10 发布

原创最新推荐文章于 2025-12-15 11:45:10 发布 · 881 阅读

25 ·

CC 4.0 BY-SA版权

文章标签：

#transformer #深度学习 #人工智能 #attention

部署运行你感兴趣的模型镜像

本文内容基于 Attention is all you need 论文。

工作流

本节对 Transformer 的训练推理工作流、Encoder 和 Decoder 工作流做出解释。

训练推理工作流

训练阶段，输入序列经过 N 个 Encoder 模块输出矩阵 $K$ 、 $V$ ，这些矩阵包含了输入序列的全局信息，不会再重复生成。

第一个 Decoder 模块接收起始提示符经过基于掩码的多头注意力块，生成矩阵 $Q$ ，和来自 Encoder 模块的矩阵 $K$ 、 $V$ 一起输入到多头注意力块，后面经过前馈全连接网络等模块，并将结果输出给第二个 Decoder 模块，重复过程，直到第 N 个模块输出。

Encoder 工作流

整个 Encoder 模块由 6 个相同的子 Encoder 模块顺序连接构成，第一个 Encoder 接收输入，经过多头注意力、前馈全连接网络、残差连接和正则化后，输出给下一个 Encoder 模块，最后一个 Encoder 模块输出 Q、V 矩阵给 Decoder 模块。

Decoder 工作流

模块详解

本节对 Transformer 中每个最小单位的模块做出解释。

输入及编码

位置编码

位置编码（Postional Encoding）

Attention

缩放点积注意力

缩放点积注意力（Scaled Dot-Product Attention）

操作步骤：

输入一个序列 $X$ ，分别与 $W_Q$ 、 $W_K$ 、 $W_V$ 三个权重矩阵做矩阵乘法，计算得到三个矩阵 $Q$ 、 $K$ 、 $V$ 。

然后矩阵 $Q$ 和 $K$ 做矩阵乘法，缩放因子 $d_k$ ，softmax，和矩阵 $V$ 做乘法

数学公式：

$Attention(Q,K,V)=softmax(\frac{Q K^T}{\sqrt{d_k}})V$

上式中，缩放因子 $\sqrt{d_k}$ 用于标准化为 $N (0, 1)$ 。

Multi-head attention

多头注意力机制允许模型在不同的子空间中学习不同的特征，每个头都有不同的 $Q$ 、 $K$ 、 $V$ ，最后将所有头的输出通过一个线性层拼接。

$\begin{align*} & MultiHead(Q,K,V)=Concat(head_1, ..., head_h)W^O \\ & head_i = Attention(QW_i^Q,KW_i^K,VW_i^V) \end{align*}$

问题：下面三个 Linear 是什么？

增加解释：self-attention、解码器和编码器中的几个 attention 的区别

前馈全连接网络

前馈全链接网络（Position-wise Feed-Forward Networks）用于变换数据维度，包括：两个全连接层和一个 RELU 激活层，数学上表示为：

$FFN(x)=max(0, W_1 x + b_1)W_2 + b_2$
上式中， $W_1 x + b_1$ 为第一层全连接层， $max(0, W_1 x + b_1)$ 为 RELU 激活函数， $W_2 + b_2$ 为第二层全连接层。 $W_1$ 为， $W_2$ 为

Add & Norm

这部分由残差连接（Residual Connection）和层归一化（Layer Norm）构成。

残差连接是一种常见的深度学习技巧，它将输出和其输入相连来实现，数学上表示为：

$R es i d u a l = x + R es i d u a l (x)$

上式中， $x$ 为残差连接层的输入， $R es i d u a l (x)$ 为残差连接层的输出。

作用：缓解深层网络中的梯度消失问题。

层归一化可以理解为对同样本的不同特征维度的归一化。

作用：稳定训练过程、提高模型稳定性、减少梯度消失和爆炸

自注意力机制

自注意力机制（Self Attention）定义为将单个序列或句子的不同位置关联起来获得更有效表示的机制。

Transformer 相较于 RNN 的改进

并行计算
因为 attention 机制能一次获取全局信息，所以最长计算路径短
可以捕捉长距离依赖关系

Layer Type	Complexity per Layer	Sequential Operations	Maximum Path Length
Self-Attention	$O (n^{2} \cdot d)$	$O (1)$	$O (1)$
Recurrent	$O (n \cdot d^{2})$	$O (n)$	$O (n)$
Convolutional	$O (k \cdot n \cdot d^{2})$	$O (1)$	$O(log_k(n))$
Self-Attention (restricted)	$O (r \cdot n \cdot d)$	$O (1)$	$O (n / r)$