关于attention的简单理解

对attention的简单理解

首先，令 V = { v 1 , . . . , v ∣ V ∣ } \mathcal{V} = \{v_1,...,v_{|\mathcal{V}|}\} V={ v1​,...,v∣V∣​}，$v_i\in {\mathbb{R}}^d$为item的向量表达；令$f:{\mathbb{R}}^{d\ast d}\to \mathbb{R}$ 或者