weixin_49090702的博客

SNN在ImageNet上首次达到 85.65% 准确率！本文提出一种专为脉冲神经网络(SNN)定制的脉冲形式 Q-K 注意力机制，并提出QKFormer：一种全新的脉冲Transformer，目前最强SNN！这是第一次在 ImageNet-1K 上直接训练 SNN 的准确率超过 85%，

Deformable Convolution v4 (DCNv4) 是一个高效和有效的算子，旨在广泛应用于视觉领域。它通过两种关键改进方案来解决其前作 DCNv3 的限制，即在空间聚合中删除 softmax 标准化以增强其动态特性和表达能力，并优化内存访问以提高速度。DCNv4 在各种任务中展现了卓越的性能，包括图像分类、实例和语义分割，尤其是图像生成。在将其集成到生成模型（如潜在扩散模型中的 U-Net）时，DCNv4 的性能超越基准模型，彰显了其增强生成模型的潜力。