- 博客(5)
- 收藏
- 关注
RSS订阅原创 Mamba系列笔记-Spatial-Mamba论文笔记
实践中通过采用多尺度膨胀卷积线性加权相邻状态变量：使用膨胀因子为d=1,3,5 的深度滤波器构造邻集 Ωd={(i,j)|i,j∈{−d,0,d}}，公式如下，其中 kijd 表示位置 (i,j) 的膨胀因子 d 的滤波器权重， xt+iw+j 表示位于该位置 (i,j) 的状态 xt 的邻居， w 表示图像的宽度。一种改进的自注意力机制，使用核函数将自注意力机制的计算复杂度降低为线性。对于线性注意力和Mamba，M采用下三角矩阵的形式， 对于Spatical-Mamba, M采用邻接矩阵的形式。
2025-05-09 21:35:40
541
1
原创 Mamba系列笔记-Mamba
结构化状态空间模型（Structured State Space Sequence Models）是一种用于建模序列数据的数学框架，它通过定义系统的内部状态和状态之间的转换关系来描述序列的动态行为。推理时参数本身还是不变，但由于参数是数据依赖的，模型在推理时可以根据输入数据的特点进行有区别的对待，即对不同的输入token应用不同的B、C和Δ值。1.输入离散化：看作连续信号的采样，利用零阶保持技术处理（保持值直到收到新的离散信号，采样值为离散输出，做了零阶保持的变量上加横杠），得到序列到序列。
2025-05-08 21:56:25
422
原创 conda中的环境操作
在 Conda 中更新现有环境的 Python 版本比较复杂，因为 Conda 不支持直接更新 Python 版本。然而，你可以通过创建一个新环境并复制原环境中的软件包来实现类似的效果。
2024-04-15 16:57:46
289
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人