- 博客(127)
- 收藏
- 关注
RSS订阅原创 PGP：用于持续学习的提示梯度投影(ICLR2024)
本文提出了一种结合提示调优和梯度投影的持续学习方法(PGP)。通过分析视觉Transformer中的自注意力机制，作者推导出提示梯度正交条件来防止遗忘，并采用奇异值分解实现梯度投影。该方法在类增量、在线类增量和任务增量学习场景中均表现出色，在CIFAR-100等多个基准数据集上验证了其有效性。PGP首次为基于提示的持续学习提供了明确的理论保证，揭示了提示调优的抗遗忘机制。实验结果表明该方法在保持旧知识方面具有优势，为参数高效的大型模型持续学习提供了新思路。
2026-03-01 19:31:07
875
1
原创 DualPrompt：用于无回放持续学习的互补提示(ECCV 2022)
DualPrompt提出了一种创新的持续学习方法，通过通用提示(G-Prompt)和专用提示(E-Prompt)的双提示结构，在无需回放缓冲区的情况下实现类增量学习。该方法将互补提示附加到预训练模型的不同位置，分别编码任务不变和任务特定知识，显著优于现有基于回放的方法。实验表明，DualPrompt在多个基准测试中创下最先进性能，并引入更具挑战性的SplitImageNet-R基准。该方法参数效率高，适合现实场景应用，为无需回放的持续学习提供了新思路。
2026-03-01 17:32:19
963
原创 L2P: 学会提示持续学习(CVPR 2022)
本文提出了一种基于动态提示学习的持续学习新范式L2P。该方法通过在预训练模型中维护一个可学习的提示池作为记忆系统，有效解决了灾难性遗忘问题。与依赖回放缓冲区或任务身份的传统方法不同，L2P通过实例级提示查询机制自动选择相关知识，适用于最具挑战性的任务不可知场景。实验表明，L2P在多个持续学习基准上显著优于现有方法，即使不使用回放缓冲区也能取得竞争性结果。该方法创新性地将提示学习引入持续学习领域，为应对该领域的关键挑战提供了新思路。
2026-03-01 14:19:18
1282
1
原创 LEAPGen:视觉与语言协同用于免回放的持续学习(ICLR 2025)
本文提出了一种新颖的基于提示的持续学习方法LEAPGEN，通过四个关键创新解决现有方法的局限性：(1)利用语言描述作为提示生成输入；(2)采用任务专属生成器避免遗忘；(3)引入软任务ID预测机制缩小搜索空间；(4)将语言提示作为辅助数据。实验表明，该方法在CIFAR100等数据集上显著优于SOTA方法，最高提升30%准确率，并有效维持任务间的稳定性-可塑性平衡。通过冻结历史任务生成器和语言引导机制，成功缓解了灾难性遗忘问题。
2026-02-28 21:51:20
782
原创 Continual-MEGA_Arxiv2026_阅读笔记
在本文中，我们引入了一个用于异常检测中持续学习的新基准，旨在更好地反映实际部署场景。我们的基准测试 Continual-MEGA，包含一个大规模且多样化的数据集，通过将精心挑选的现有数据集与我们新提出的数据集 ContinualAD 相结合，显著扩展了现有的评估设置。除了数据量扩大的标准持续学习外，我们还提出了一种新的场景，用于衡量对未见类别——即在持续适应过程中未观察到的类别——的零样本泛化能力。这个设置提出了一个新的问题场景，即持续适应也能提升零样本性能。我们还提出了一个统一的基线算法，以提高少样本
2026-02-28 15:10:05
1130
原创 MADPOT: 基于微调的CLIP与部分最优传输的医学异常检测(ICIAP 2025)
本文提出MADPOT框架，针对医学异常检测中成像模态多样、解剖差异大及标注数据有限等挑战，通过结合视觉适配器和提示学习，并引入部分最优传输(POT)与对比学习来提升CLIP模型的适应性。该方法利用POT将多提示与局部特征对齐以捕捉细微异常，同时通过对比学习增强特征判别性。实验表明，MADPOT在少样本、零样本及跨数据集场景下均取得先进效果，且无需额外合成数据或记忆库。代码已开源。
2026-02-27 20:22:24
378
原创 MadCLIP：用于医学异常检测的文章（MICCAI 2025）
本文提出MadCLIP，一种基于CLIP的少样本医疗异常检测方法，通过双分支适配器分别学习正常/异常特征，并利用可学习文本提示增强语义对齐。创新性地引入SigLIP损失处理图像-文本多对多关系，无需依赖合成数据或记忆库。在六个多模态医疗数据集上验证显示，其异常分类和分割性能均优于现有方法，尤其在跨数据集场景下表现出色。该方法采用端到端单阶段推理，结构简洁且泛化能力强，为医疗异常检测提供了新思路。
2026-02-27 17:59:29
1054
原创 MediCLIP:医学异常检测2（2024_MICCA）
本文提出MediCLIP方法，首次解决少样本医学图像异常检测问题。该方法基于CLIP模型，通过自监督微调适配医学领域：1）设计可学习提示和适配器改进特征对齐；2）利用合成异常图像（随机噪声/几何形状生成）进行训练，无需真实异常数据。实验表明，MediCLIP在仅使用少量正常样本合成训练数据的情况下，在三个医学异常检测任务上达到最先进性能。与现有方法相比，其创新性体现在完全端到端的测试流程，无需参考图像库即可直接推理。这项工作为数据稀缺的医疗场景提供了实用的异常检测解决方案。
2026-02-27 14:44:22
996
原创 MVFA:医学异常检测SOTA（CVPR2024）
本文提出了一种基于CLIP模型的轻量级多级适配框架MVFA，用于医学异常检测。该方法通过集成多个残差适配器实现跨层级视觉特征增强，并采用像素级视觉-语言对齐损失将模型关注点从自然图像语义转向医学异常识别。实验表明，在零样本和少样本设置下，该方法在异常分类和分割任务上均显著优于现有技术，AUC分别提升6.24%/7.33%和2.03%/2.37%。创新性地融合了零样本语言先验和少样本记忆库参考，有效解决了医学与自然图像的领域差异问题。
2026-02-27 13:25:56
961
原创 分别使用PCA, MDS,TSNE对IRIS数据进行无监督降维并可视化
摘要：本文介绍了三种常用的降维方法及其在鸢尾花数据集上的可视化应用。PCA（1901年提出）通过线性变换保留最大方差，MDS（1958年）保持数据点间距离结构，t-SNE（2008年）则利用概率模型捕捉非线性关系。文中提供了三种方法的Python实现代码，使用sklearn库对鸢尾花数据进行降维，并通过散点图展示不同类别在二维空间的分布情况，直观比较了各方法的降维效果。
2025-12-11 13:54:58
701
原创 NumPy的hstack函数详细教程
摘要：np.hstack()是NumPy中用于水平（按列）堆叠数组的函数，要求除第二个轴外其他轴大小相同。它适用于一维、二维和三维数组，通过增加列数实现堆叠。使用时需注意输入数组形状匹配（除第二轴外必须相同），与vstack()、dstack()等堆叠函数形成对比。典型应用包括合并特征矩阵等场景，其核心特点是沿第二维度扩展数组结构。
2025-10-21 21:49:55
518
原创 Lipschitz连续及其常量
Lipschitz连续是描述函数变化速率受限的数学概念。定义要求存在常数L使得函数值差不超过自变量差的L倍，其中最小的L称为最优Lipschitz常量。可微函数若导数有界则必Lipschitz连续，但反之不成立。该性质在优化算法、微分方程解的存在性证明及机器学习正则化中具有重要应用，如梯度下降收敛性保障和防止过拟合。Lipschitz常量量化了函数变化的平滑程度，较小的L对应平缓变化，较大的L表示可能陡峭。
2025-10-17 18:59:54
958
原创 学习笔记——GPU训练
本文介绍了三种深度学习训练配置方案：1)单机单卡适合小规模训练，配置简单；2)单机多卡通过数据并行提高中等规模训练效率；3)多机多卡适用于大规模模型训练，需处理复杂通信问题。文章还提供了PyTorch实现代码，并给出性能优化建议，包括批量大小设置、数据加载优化等。最后根据模型规模、数据集大小和硬件资源，建议小规模实验用单机单卡，中等规模用单机多卡，大规模训练采用多机多卡配置。
2025-10-15 21:22:46
506
原创 【深度可分离卷积和空间可分离卷积_附代码实现】
摘要：本文介绍了两种高效卷积神经网络结构。深度可分离卷积将标准卷积分解为深度卷积（groups=in_channels）和1×1点卷积，显著减少计算量。空间可分离卷积则分解为垂直（K_h×1）和水平（1×K_w）两个步骤，通过nn.Sequential串联实现。两种方法都通过卷积核分解策略降低FLOPs，达到模型轻量化效果，代码示例展示了PyTorch的具体实现方式，包括参数设置和通道数调整。
2025-06-23 16:14:09
507
原创 transformer
无法直接利用序列中元素的位置信息。RNN的核心思想是利用循环结构处理序列数据，即网络中存在一个“记忆单元”，能够保存之前时间步的信息，并将其与当前时间步的输入结合，共同影响当前时间步的输出。BI-LSTM的核心思想是使用两个独立的LSTM网络，分别从前向和后向两个方向处理序列数据，然后将两个方向的隐藏状态进行拼接或融合，作为最终的输出。RNN的网络结构可以看作是一个随时间展开的循环链，每个时间步都接收当前输入和上一个时间步的隐藏状态，输出当前时间步的预测结果和更新后的隐藏状态。
2025-02-12 21:43:43
1289
原创 空洞卷积（dilation）
具体来说，空洞卷积是在标准的卷积核里注入空洞，以此来增加感受野/接受域。相比原来的正常卷积运算，空洞卷积多了一个超参数，称之为扩张率（Dilation Rate），它指的是卷积核的间隔数量。空洞卷积可以在不用pooling层（pooling层会导致信息损失）且计算量相当的情况下，提供更大的感受野，并有内部数据结构的保留和避免使用down-sampling这样的特性。至于空洞卷积最开始具体是用在哪个网络之中，可能因不同的研究和应用而有所不同，但它在图像语义分割任务中的提出和应用是具有里程碑意义的。
2025-02-11 14:34:34
2205
原创 空间可分离卷积
空间可分离卷积（Spatial Separable Convolution）是一种将标准二维卷积核分解为两个一维卷积操作的技术。它通过首先用一个1x3的卷积核在水平方向上进行卷积，再用一个3x1的卷积核在垂直方向上进行卷积，从而减少了计算量。相比标准的二维卷积，空间可分离卷积能够有效提高计算效率，尤其适用于计算资源有限的场景，但在现代网络中，它不如深度可分离卷积广泛使用。图1 将二维卷积拆分为两个一维的卷积。图2 具体的一个拆分例子。图3 可有效减少计算量。
2025-02-11 12:59:45
355
原创 卷积改变特征图个数（通道数），池化改变图像尺寸（以LetNet5为例）
中只是对得到的6个feature进行尺寸变化，不改变通道数，同时卷积层也不改变尺寸数。中只是对得到的6个feature进行尺寸变化，不改变通道数，同时卷积层也不改变尺寸数。中：有6个feature map，6个feature map分别经过16个卷积核（中：有6个卷积核，一个feature map分别经过6个卷积核（在这里有两个卷积层，有两个池化层，有一个全连接层。）可得到16个feature map。）可得到六个feature map。一个卷积核的深度为1。一个卷积核的深度为6。
2025-02-10 18:30:46
481
原创 通道计算深层理解
每个卷积核会在输入的 64 个通道上执行卷积操作，逐元素相乘并求和，最终输出一个单一的值。这个过程会在输入的每个位置上进行，产生一个输出特征图。总共有 128 个这样的卷积核，因此最终会生成 128 个输出特征图。
2025-02-10 17:11:46
509
原创 MMLAB的实例分割算法mmsegmentation
当然如果以上无法满足，这里面提供了详细的教程与方便的接口，以供制作自己的数据集和设计自己的算法、主干网络、损失函数等。
2024-02-04 20:20:45
1801
1
原创 利用sklearn工具中的train_test_split快速划分实例分割数据集
5.将进一步上面得到的训练集划分为训练集和验证集，保存训练集和验证集。4. 划分数据集为训练集和测试集最终保存测试集。3.获取所有文件的路径列表。6.将以上的结果保存。
2024-02-04 09:55:16
1019
原创 使用Pycharm在本地调用chatgpt的接口
使用的路由端口情况，需要使得使用的小魔法的端口，以及上述代码中的端口，以及刚才下载的openai包中 _base_client.py 文件的端口一致，才可以正常访问，我以端口号为7890做个例子，当然你设为其他也是可以的。将我本地安装的opnai包中的_base_client.py中的352行的self._proxies = proxies替换为。这个是在opnai的官方申请的秘钥，详见。使用 openai 1.6.1 版本。
2024-02-01 11:32:05
6409
3
原创 在win10下，使用torchviz对深度学习网络模型进行可视化
变量值为：graphviz所在的路径+bin；那么我的变量值就为：C:\Program Files\Graphviz 2.44.1\bin。我们按照依次顺序进入到编辑环境变量中：win左下角搜索 -> 查看高级系统设置 -> 点击环境变量 ->点击用户的path。prompt 进入自己的 pytorch 环境(图中 pt 是我自己的 pytorch 环境)，运行如下代码安装依赖包。只需要安装到一个自己记得住的地方，我安装的地方是 C:\Program Files\Graphviz 2.44.1。
2023-10-30 23:02:13
1124
2
原创 两数和的目标 python （初学者vs程序员）
1）给定一个整数列表，在列表中，从前向后查找两个元素使其相加之和等于目标数，并返回两个整数在列表中的下标。如果没有符合条件的数字，输出False，本题假设题目的解唯一。2）注意：分两次input()分别读入整数列表和目标数；输出采用列表形式。例如，依次输入整数列表 [2,7,11,15] 和9，输出[0, 1]。3）输入代码并提交解答。注意：提交代码时请删除input()函数中的参数，否则会出现错误。
2023-10-29 15:06:43
776
原创 小样本学习——匹配网络
Matching networks（匹配网络）的架构主要受到注意力模型（attention model）和基于记忆的网络（memory-based networks）的启发。在所有这些模型中，都定义了神经注意机制来访问存储有解决当前任务所需信息的记忆矩阵。首先，我们需要了解一些与匹配网络相关的术语。Attention Model（注意力模型）：是一种模拟人类注意力机制的计算模型，用于确定模型在处理输入时应该关注哪些部分。它可以根据输入的重要性权重来动态地选择性地聚焦于不同的输入部分。
2023-10-05 22:53:32
2973
3
原创 小样本学习
小样本学习（few shot learning）旨在使用先验知识（prior knowledge）基于有限数量的样本推广（generaling）到新任务（new task）。这些先验（prior knowledge）通常指的是很大规模的训练集，有很多的类和样本，然而在新任务（new task）中的样本（the samples）在这些大规模的训练集上面从来都没有出现过。例如在小样本图像分类中（in few shot image classification），预训练模型只能看到 五个鸟类图像，（一。
2023-09-27 14:06:35
1531
原创 LCR 101. 分割等和子集——力扣——背包问题、动态规矩
这段代码实现了一个判断给定数组是否可以被划分成两个和相等的子集的功能。首先，如果数组长度小于等于1，则无法划分，直接返回False。然后，计算数组中所有元素的总和，如果总和为奇数，则无法划分成两个相等的子集，直接返回False。接下来，计算目标和，即总和的一半。创建一个二维的布尔型动态规划数组dp，其中dp[i][j]表示前i个元素是否可以组成和为j的子集。然后，初始化动态规划数组的第一列，将其设为True。这是因为当目标和为0时，任何元素都可以不选，所以前i个元素都可以组成和为0的子集。
2023-09-27 13:55:41
357
原创 python的re正则表达式
re是Python中用于处理正则表达式的内置库，提供了许多有用的方法。None这只是re库中一些常用方法的示例，还有其他方法和参数可以根据具体需求进行使用。详细的使用文档可以在Python官方文档中查找。
2023-09-05 13:04:20
329
原创 Problem: 205. 同构字符串；力扣；python
不能只考虑一种（t到s的映射），如果这样，就像下面这种情况不能通过有些实例。（1）选用字典作为映射存储，每个key仅存一次；（2）先考虑t到s的映射，然后考虑s到t的映射；
2023-09-05 12:07:36
406
原创 判断聚类 n_clusters
这些方法（肘部法则、轮廓系数、Gap Statistic、Calinski-Harabasz Index）都是用于确定聚类算法中的。（簇的数量）参数，但它们之间存在一些区别。
2023-08-28 11:12:14
1366
原创 逻辑回归分析实战（根据鸢尾花的性质预测鸢尾花类别）
1. 目标变量类型：一元线性回归模型适用于连续型目标变量，即预测一个数量；而逻辑回归模型适用于二分类目标变量，即预测一个属于两个类别的概率。2. 输出类型：一元线性回归模型的输出是一个连续的数值，表示目标变量的预测值；而逻辑回归模型的输出是一个概率值，表示目标变量属于某个类别的概率。3. 假设函数形式：一元线性回归模型假设自变量与因变量之间存在线性关系，通过拟合一条直线来描述它们之间的关系；逻辑回归模型则假设自变量与因变量之间存在一种S形曲线的关系，通过拟合一个Sigmoid函数来描述它们之间的关系。
2023-07-28 22:01:49
532
1
原创 一元线性回归方法预测鸢尾花
这个项目可以帮助理解线性回归模型的使用和预测过程，并通过可视化展示模型的拟合效果。4. 预测及结果可视化：使用训练好的模型对自变量x进行预测，将真实值与预测值分别以散点图和线条的形式绘制在图形窗口中，并使用黄色线条连接真实值与对应的预测值。3. 载入模型：使用`LinearRegression()`函数创建一个线性回归模型，并使用`fit()`函数对模型进行训练，拟合出最佳的回归线。5. 输出系数和截距：输出线性回归模型的系数和截距，即回归线的斜率和截距。
2023-07-28 20:05:23
926
1
原创 有效的括号，python，力扣，栈数据结构
``pythonstack = Stack() # 创建一个空栈stack.push(1) # 入栈操作top_element = stack.pop() # 出栈操作，返回被弹出的元素print(top_element) # 输出: 3```使用列表实现栈更为简单和高效，因此在Python中通常更常用。但是，当需要更多灵活性和控制时，可以选择实现自己的链表结构作为栈。希望这个回答对你有所帮助。如果有任何进一步的问题，请随时提问。
2023-07-24 23:02:02
500
原创 【无标题】
这道题可以使用双指针来解决。我们用两个指针 `left` 和 `right` 来表示当前区间的左右端点。初始时，它们都指向数组的第一个元素。然后我们不断地将右指针向右移动，直到区间中的所有元素都被覆盖。此时，我们就找到了以左指针为起点的最短区间。我们将这个区间加入答案数组，并将左指针移到右指针的下一个位置，继续寻找下一个区间。具体来说，我们每次将右指针向右移动一位。如果当前区间中的所有元素都被覆盖，那么我们就将这个区间加入答案数组，并将左指针移到右指针的下一个位置。我们需要注意处理数组末尾的边界情况。
2023-06-16 15:10:20
835
原创 【LeetCode】python 主要元素 摩根投票法
if nums.count(candidate) > len(nums) // 2: # 如果候选人的票数超过数组长度的一半，则返回候选人。count += 1 if num == candidate else -1 # 如果当前元素等于候选人，则票数加1，否则减1。if count == 0: # 如果候选人票数为0，则将当前元素设为候选人。3. 如果候选人的票数超过数组长度的一半，则返回候选人，否则返回-1。- 如果当前元素等于候选人，则票数加1，否则减1。输入：[2,2,1,1,1,2,2]
2023-06-16 13:59:37
1052
1
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人