Multiple_x的博客

Quo Vadis, Action Recognition? A New Model and the Kinetics Dataset 论文阅读笔记

FLOW MATCHING FOR GENERATIVE MODELING 论文阅读笔记

Switch Transformers: Scaling to Trillion Parameter Models with Simple and Efficient Sparsity 论文阅读笔记

Mixtral of Experts 论文阅读笔记

Deformable 3DGS，4DGS 论文阅读笔记

3D Gaussian Splatting for Real-Time Radiance Field Rendering 论文阅读笔记

EWA Volume Splatting 论文阅读笔记

ADALORA: ADAPTIVE BUDGET ALLOCATION FOR PARAMETER-EFFICIENT FINE-TUNING 论文阅读笔记

QLORA: Efficient Finetuning of Quantized LLMs 论文阅读笔记

LORA: LOW-RANK ADAPTATION OF LARGE LANGUAGE MODELS 论文阅读笔记

Adapter，AdapterFusion，AdapterDrop 论文阅读笔记

本文探索了一类新的基于 Transformer 的扩散模型 Diffusion Transformers (DiTs)。本文训练 latent diffusion models 时，使用 Transformer 架构替换常用的 UNet 架构，且 Transformer 作用于 latent patches 上。

将输入图像通过可选的 ResNet 预处理阶段提取特征，然后将图像分割成 patch 并嵌入到 Transformer 可处理的序列中。通过 Transformer 编码器对序列进行编码后，根据分类器的类型（如 token、gap 等）提取特征表示，最后通过全连接层输出分类结果。该模型支持添加类别 token、全局平均池化等操作，并可选择是否在 Transformer 前使用 ResNet 进行特征提取。

Two-Stream Convolutional Networks for Action Recognition in Videos 论文阅读笔记