LLMliandanlu的博客

Diffusion Transformer、MM-Attention、可控图像编辑、GRAG、天津大学、快手Kolors、分组相对注意力引导（Group Relative Attention Guidance, GRAG）、多模态注意力（Multi-Modal Attention, MM-Attention）、图像编辑（Image Editing）、视觉语言模型（Vision-Language Model, VLM）

谢赛宁×李飞飞×LeCun联手重磅：Cambrian-S：通过引入预测性感知机制和构建大规模空间感知数据集VSI-590K，显著提升了模型在空间推理任务上的表现。实验表明，该模型在多个空间理解基准上取得了显著进步，并在新提出的VSI-Super评测集上展现出优于现有商业模型的能力。

架构革新（如Mamba在扩散模型中的应用、统一化基础模型设计）、效率提升（如知识蒸馏、无需训练框架）及垂直领域突破（如自动驾驶、医疗影像、遥感分析）等

从CVPR、ICLR到AAAI，2025年顶会趋势显示，多模态融合领域正迎来新一轮技术突破。架构创新成为核心驱动力——神经架构搜索正在重新定义融合路径的自动化设计，模块化架构显著提升模型灵活性，状态空间模型则为序列建模带来全新范式，共同推动基础架构向更高效、更强大的方向演进。

关键词：视觉令牌剪枝、多模态大语言模型、全局上下文保留、注意力机制偏差、HoloV框架、自适应令牌分配、视觉上下文重提取、位置偏差、注意力分散

关键词：超长对话记忆管理、角色扮演对话系统、双分支记忆提取、叙事摘要分支（NSB）、角色构建分支（PCB）、竞争-抑制遗忘机制、记忆容量控制、ZH-4O数据集、MemScore评估

该研究提出UAE统一多模态学习框架，通过自编码器视角将图像理解与生成过程结合，以重建保真度为训练目标，实现双向信息流并提升多模态性能。