给定一个由词元组成的输入序列 x 1 , … , x n \mathbf{x}_1, \ldots, \mathbf{x}_n x1,…,xn，其中任意 x i ∈ R d \mathbf{x}_i \in \mathbb{R}^d xi∈Rd（ 1 ≤ i ≤ n 1 \leq i \leq n 1≤i≤n）。自注意力池化层将 x i x_i xi当作key，value，query来对序列抽取特征（该序列的自注意力输出为一个长度相同的序列）得到 y 1 , … , y n \mathbf{y}_1, \ldots, \mathbf{y}_n y1,…,y
最低0.47元/天 解锁文章
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
