注意力机制

自上而下有意识地聚焦称为聚焦式注意力

自下而上无意识、由外界刺激引发的注意力称为显著式注意力

处理信息时会过滤掉不太关注的信息、着重于感兴趣信息的机制称为注意力机制

注意力机制主要分成软注意力机制（全局注意）、硬注意力机制（局部注意）、和自注意力机制（内注意）。

自注意力具有并行计算的优势

在计算机视觉领域，按照注意力关注的域，可以将其分成空间域注意力、通道域注意力、时间域注意力、混合域注意力和自注意力等。