Transformer之多角度解读

最新推荐文章于 2024-08-06 10:25:47 发布
最新推荐文章于 2024-08-06 10:25:47 发布
阅读量1.2k 收藏 10
点赞数 18
分类专栏： 带你玩转人工智能 文章标签： transformer 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/runofsun/article/details/136590854
版权
本文详细介绍了Transformer模型中的关键组件，包括自注意力机制如何捕捉长距离依赖，Encoder的多头注意力和残差连接，以及Decoder的自注意力和交叉注意力层。着重讲解了Q、K、V在注意力过程中的作用。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

Transformer

文章目录

  👉引言💎

学习的最大理由是想摆脱平庸，早一天就多一份人生的精彩；迟一天就多一天平庸的困扰。
热爱写作，愿意让自己成为更好的人…
…
在这里插入图片描述

铭记于心
🎉✨🎉我唯一知道的，便是我一无所知🎉✨🎉

一、 自注意力机制 ： 主要用于 长距离依赖捕捉和转换序列

在这里插入图片描述

二、 Encoder：

2.1 多头注意力机制：

最低0.47元/天 解锁文章
Transformer笔记
m0_63276919的博客
02-17 970
Transformer模型完全基于注意力机制，没有任何卷积层或循环神经网络。之前Transformer最初应用于文本数据上的序列到序列上的学习，现在已经推广到各种现代深度学习中，例如语言、视觉、语音和强化学习领域。
深度学习相关概念整理
不断进步的咕咕怪的博客
04-13 3624
残差连接（Residual Connection）是一种在深度学习领域，特别是在深度神经网络架构设计中的关键技术。它最初由何凯明等人在2015年的论文《Deep Residual Learning for Image Recognition》中提出，并应用于ResNet（Residual Network）中，极大地推动了深度神经网络的发展，尤其是在图像识别任务上的突破。残差连接的核心思想是引入“捷径”或“跳过连接”，它允许输入信号可以直接传递到网络的较深层，而不仅仅依赖于逐层前向传播的计算结果。
MViTv2 多尺度视觉Transformer
weixin_52255304的博客
07-08 2669
读论文——MViTv2。将池化层应用到注意力机制可行吗？
探索3D视觉中的Transformer架构：通用Backbone与自适应采样策略 ！
最新发布
2401_85375186的博客
08-06 2036
计算机视觉中的一个基本问题是在三维空间中理解和识别场景与物体。它允许以紧凑的方式表达关系，并提供在现实世界中导航和操作的能力。3D视觉在各个领域都发挥着重要作用，包括自动驾驶、机器人技术、遥感、医疗、增强现实、设计行业等众多应用。由于以下几个原因，3D领域引起了越来越多的兴趣：(1)各种3D捕获传感器的发展，例如激光雷达（LiDAR）和RGB-D传感器；(2)引入了大量在3D空间收集和标记的大型3D几何数据集；(3)3D深度学习方法取得的进展。常见的3D深度学习方法采用深度卷积神经网络（CNNs）和多层感知
BEVFormer笔记
qq_42250207的博客
07-21 2116
里面使用的注意力机制是SE模块，SE的注意力机制的作用在通道上的，图中看到的不同颜色的权重其实是表示不同注意力的权重，通过对通道数值的重新加权，网络会自适应的关注或忽略某些部分的特征，假定颜色比较深的区域是权重比较大的地方，通过加权后，权重比较大的地方的特征会自适应的得到加强。对于高度，这里一个点对应4个query（图中红色点），这4个点分别去遍历所有视角的特征，最后再做一个整合（可能这一步是没必要的，只需要1个query就好），类似于多头注意力机制，非要说在不同高度做的聚合也可以。1、是一个重构空间。
Transformer简单理解
Abmaj7的博客
09-18 249
生成一个带有编码信息的输出向量，指引序列中的每个词如何关注其他所有词注意，输出矩阵Z的维度没有变，只是其中被编码，掺入了其他单词的上下文信息如下图。单词向量矩阵用X n x d表示，n是句子中单词个数，d是表示向量的维度（论文中d=512）。每一个 Encoder block 输出的矩阵维度与输入完全一致。
Transformer解读.pdf
04-09
多头注意力机制是Transformer模型中的另一个关键概念，它通过将自注意力操作分解成多个“头”，允许模型在不同的表示子空间中学习到信息。每个头关注输入的不同部分，然后将所有的输出拼接起来形成最终的表示。 ...
Transformer-XL解读（论文 + PyTorch源码）
热门推荐
Magical_Bubble的博客
04-07 3万+
CMU联合Google Brain在2019年1月推出的一篇新论文《Transformer-XL：Attentive Language Models beyond a Fixed-Length Context》同时结合了RNN序列建模和Transformer自注意力机制的优点，在输入数据的每个段上使用Transformer的注意力模块，并使用循环机制来学习连续段之间的依赖关系。Transformer-XL在多种语言建模数据集上实现了SoTA的效果，并且还有完整的源码！
Transformer实战-系列教程2：Transformer算法解读2
机器学习与软件工程
02-03 1515
Transformer实战-系列教程2：Transformer算法解读2
【论文解读】transformer小目标检测综述
INTSIG的博客
02-22 3547
本综述论文回顾了60多篇研究论文，专注于开发小目标检测任务的transformer，包括纯基于transformer和集成cnn的混合技术。这些技术已经从七个不同的角度进行了研究：目标表示、用于高分辨率或多尺度特征图的快速注意机制、架构和块的修改、时空信息、改进的特征表示、辅助技术和完全基于transformer的检测。这些类别都包括几种最先进的（SOTA）技术，每一种都有自己的优点。
译文 Attention Is All You Need
Airstudy的博客
06-07 871
摘要 主流的序列转换模型基于负责的递归或者卷积神经网络，包括编码器和解码器。性能最好的模型也是通过注意力机制链接编码器和解码器。我们提出来一种新的简单的网络结构——Transformer——仅仅基于注意力机制，完全不需要递归和卷积网络。在两个机器翻译任务上的实验表明，这些模型在质量上优于其他模型，且具有更高并发性和更少的训练时间。我们模型在WMT 2014英语翻德语的任务上取得了28.4 BLEU，提升了现有最好的结果，包括以2 BLEU由于集成方法。在WMT 2014英语翻法语的任务上，用8个GPU训练了
人工智能-注意力机制之残差连接和层规范化
学习笔记，人工智能，教程，技术分享！
11-26 659
层规范化和批量规范化的目标相同，但层规范化是基于特征维度进行规范化。尽管批量规范化在计算机视觉中被广泛应用，但在自然语言处理任务中（输入通常是变长序列）批量规范化通常不如层规范化的效果好。残差连接要求两个输入的形状相同，以便加法操作后输出张量的形状相同。以下代码对比不同维度的层规范化和批量规范化的效果。现在可以使用残差连接和层规范化来实现。暂退法也被作为正则化方法使用。
小学生也能听得懂的大模型 - Transformer 1
2401_85325557的博客
07-29 1260
参考 [小学生也能听得懂的大模型 Transformer 1]
深度学习：前馈神经网络与BP反向传播
Machine Learning with Tutors
06-15 6298
前馈神经网络（feedforward neural network），简称前馈网络，是人工神经网络的一种。在此种神经网络中，各神经元从输入层开始，接收前一级输入，并输出到下一级，直至输出层。整个网络中无反馈，可用一个有向无环图表示。前馈神经网络采用一种单向多层结构。其中每一层包含若干个神经元，同一层的神经元之间没有互相连接，层间信息的传送只沿一个方向进行。其中第一层称为输入层。最后一层为输出层．中间为隐含层，简称隐层。隐层可以是一层。也可以是多层。
【MTV】Multiview Transformers for Video Recognition 笔记
salari的博客
03-03 2460
MTV 摘要 MTV由独自分开的encoder组成，并通过横向连接 做了许多消融实验，结果比单个view的准确度高，计算成本低 在五个通用数据集上效果好，在大规模预训练基础上效果更好 引言 图像领域，采用金字塔形多尺度处理表现好，例如slowfast。但由于pooling和下采样部分时空信息丢失； MTV不依靠金字塔结构获取多尺度信息，构建transformer视频理解模型： 慢流用更小的encoder 采用不同‘’view‘，从不同维度提取token，再分别进入transformer横向链接
UniFormer：用统一多视角融合Transformer构建时空BEV表征
CV_Autobot的博客
07-27 1286
点击下方卡片，关注“自动驾驶之心”公众号ADAS巨卷干货，即可获取arXiv论文“UniFormer: Unified Multi-view Fusion Transformer for Spatial-Temporal Representation in Bird’s-Eye-View“，2022年7月上传，浙江大学、大疆公司和上海AI实验室的工作。BEV表示是一种基于...
Transformer学习笔记
Hacking to the gate.
02-24 775
1. 概述 不论从命名还是物理结构，都可以看出，Transformer是对Encoder-Decoder模型结构的继承与发展，用途上也依然以解决Seq2Seq问题为初衷。 2. 历史 2.1 Encoder-Decoder Encoder-Decoder模型其实泛指一类用于解决Seq2Seq问题的模型结构。 编解码器都不是固定的，常用的有CNN/RNN/BiRNN/GRU/LSTM等，可以根据...
CVPR 2021 Multi-view 3D Reconstruction with Transformer
smile909的博客
04-02 2786
动机 基于深度CNN的方法在多视图3D物体重建方面达到了SOTA水平。 从多视图图像中学习3D物体的表示是3D建模、虚拟现实和计算机动画中的一个基本而又具有挑战性的问题。近年来，深度学习方法极大地促进了多视图3D重建问题的研究，其中基于深度卷积神经网络(CNN)的方法在该任务中达到了SOTA水平。 尽管取得了相当大的进展，但这些方法的两个核心模块，即多视图特征提取和融合通常是单独考察的，很少探究不同视图中的目标关系。 为了从多个输入视图中学习有效的3D表示，大多数基于CNN的方法遵循分而治之的设计原
深度解读ICLR 2021：自监督学习与Transformer的前沿进展
这之中涉及到的核心技术包括模型预训练、多模态学习、模型微调、记忆增强、噪声学习等，这些技术的探索和应用对于推动人工智能技术的发展具有重要意义。随着研究的不断深入，我们可以期待未来会有更多突破性的工作...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

梦想new的出来

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值