- 博客(53)
- 收藏
- 关注
RSS订阅原创 【Day53】
对于心脏病数据集，对于病人这个不平衡的样本用GAN来学习并生成病人样本，观察不用GAN和用GAN的F1分数差异。nn.sequential容器：适合于按顺序运算的情况，简化前向传播写法。对于gan的损失函数的理解，建议去找找视频看看，如果只是用，没必要学。leakyReLU介绍：避免relu的神经元失活现象。对抗生成网络的思想：关注损失从何而来。
2025-06-17 13:07:28
141
原创 【Day52】
作业：对于day'41的简单cnn，看看是否可以借助调参指南进一步提高精度。DAY 52 神经网络调参指南。各部分参数的调整心得。
2025-06-16 07:57:31
153
原创 【Day49】
它的核心目标是通过学习的方式，自动获取特征图在通道和空间维度上的重要性，进而对特征图进行自适应调整，增强重要特征，抑制不重要特征，提升模型的特征表达能力和性能。CBAM 由两个主要部分组成：通道注意力模块（Channel Attention Module）和空间注意力模块（Spatial Attention Module）。通道注意力（Channel Attention）：分析 “哪些通道的特征更关键”（如图像中的颜色、纹理通道）。后面说完几种模块提取特征的组合方式后，会提供整理的开源模块的文件。
2025-06-15 23:06:42
460
原创 【Day48】
卷积和池化的计算公式（可以不掌握，会自动计算的）ps：numpy运算也有类似的广播机制，基本一致。pytorch的广播机制：加法和乘法的广播机制。随机张量的生成：torch.randn函数。自己多借助ai举几个例子帮助自己理解即可。DAY 48 随机函数与广播机制。
2025-06-14 23:05:40
344
原创 【Day51】
day43的时候我们安排大家对自己找的数据集用简单cnn训练，现在可以尝试下借助这几天的知识来实现精度的进一步提高。DAY 51 复习日+退款开始。
2025-06-12 11:59:37
226
原创 【Day46】
目前我们终于接触到了模块，模块本质上也是对特征的进一步提取，整个深度学习就是在围绕特征提取展开的，后面会是越来越复杂的特征提取和组合步骤。什么是注意力：注意力家族，类似于动物园，都是不同的模块，好不好试了才知道。新增八股部分，在本讲义目录中可以看到----用问答的形式记录知识点。为了保证收敛方便对比性能，今日代码训练轮数较多，比较耗时。我这里列出来的是通道注意力中的一种，SE注意力。最终测试准确率: 85.38%不同CNN层的特征图：不同通道的特征图。通道注意力：模型的定义和插入的位置。
2025-06-12 11:17:06
222
原创 【Day50】
ps：今日的代码训练时长较长，3080ti大概需要40min的训练时长。DAY 50 预训练模型+CBAM模块。尝试对vgg16+cbam进行微调策略。好好理解下resnet18的模型结构。针对预训练模型的训练策略。CBAM放置位置的思考。resnet结构解析。
2025-06-10 20:38:12
236
原创 【Day44】
尝试在cifar10对比如下其他的预训练模型，观察差异，尽可能和他人选择的不同。尝试通过ctrl进入resnet的内部，观察残差究竟是什么。预训练代码实战：resnet18。DAY 44 预训练模型。图像预训练模型的发展史。常见的分类预训练模型。
2025-06-04 20:00:13
659
原创 【Day43】
kaggle找到一个图像数据集，用cnn网络进行训练并且用grad-cam做可视化。LOVE/Python学习库。进阶：并拆分成多个文件。DAY 43 复习日。
2025-06-02 23:01:58
377
原创 【Day41】
Flatten -> Dense (with Dropout，可选) -> Dense (Output)1. 输入 → 卷积层 → Batch归一化层（可选） → 池化层 → 激活函数 → 下一层。如果之前没有学习过复试班强化班中的计算机视觉部分，请自行上网检索视频了解下基础概念。的调度器和CNN的结构，
2025-05-31 22:12:16
340
原创 【Day38】
Dataset类的__getitem__和__len__方法（本质是python的特殊方法）DAY 38 Dataset和Dataloader类。了解下cifar数据集，尝试获取其中一张图片。minist手写数据集的了解。Dataloader类。
2025-05-27 19:25:04
370
原创 【Day36】
对信贷数据集训练后保存权重，加载权重后继续训练50轮，并采取早停策略。保存全部信息checkpoint，还包含训练状态。过拟合的判断：测试集和训练集同步打印指标。DAY 37 早停策略和模型权重的保存。
2025-05-26 18:39:44
274
原创 【Day36】
对之前的信贷项目，利用神经网络训练下，尝试用到目前的知识点让代码更加规范和美观。仔细回顾一下神经网络到目前的内容，没跟上进度的同学补一下进度。：尝试进入nn.Module中，查看他的方法。探索性作业（随意完成）DAY 36 复习日。
2025-05-25 21:45:17
957
原创 【Day35】
三种不同的模型可视化方法：推荐torchinfo打印summary+权重分布可视化。进度条功能：手动和自动写法，让打印结果更加美观。作业：调整模型定义时的超参数，对比下效果。外出几天，所以提前更新几日作业，DAY 35 模型可视化与推理。推理的写法：评估模式。
2025-05-24 20:22:55
269
原创 【Day34】
PyTorch中，GPU计算（如模型推理、梯度计算）与CPU操作（如 loss.item() 将GPU张量转为CPU标量、 append 到列表）是。鸢尾花数据集（150样本、4特征）和MLP模型（仅2层全连接）的计算量极小，单个epoch的GPU计算时间可能仅需 几微秒到几十微秒。losses.append(loss.item()) 是Python列表的 O(1)时间复杂度操作 （均摊时间），即使记录次数增加（如从10次到200次），CPU辅助操作的总耗时在整体训练时长中的占比极低（可能不足1%），
2025-05-23 14:18:36
972
原创 【Day32】
大多数 Python 库都会有官方文档，里面包含了函数的详细说明、用法示例以及版本兼容性信息。官方文档：https://pdpbox.readthedocs.io/en/latest/GitHub 仓库：https://github.com/SauceCat/PDPbox。PyPI 页面：https://pypi.org/project/PDPbox/2. 官方文档的阅读和使用：要求安装的包和文档为同一个版本。1. 官方文档的检索方式：github和官网。4. 绘图的理解：对底层库的调用。
2025-05-21 21:51:51
168
原创 【Day30】
_name__ ：当模块被直接运行时值为 '__main__' ，被导入时值为模块名。导入库/模块的核心逻辑：找到根目录（python解释器的目录和终端的目录不一致）下级模块： from .submodule import function。上级模块： from .. import module。同级模块： from . import module。__package__ ：当前模块所属的包名。__file__ ：当前模块的文件路径。DAY 30 模块和库的导入。导入自定义库/模块的方式。
2025-05-19 15:18:56
264
原创 【Day29】
函数的理解我可能会带入到c语言中的函数作用，其作用不言而喻，对于简单的工程没什么，但是对于大工程或者多人协同开发时，函数可对一个大工程进行分解，变成一份很小的函数，最后由总工程师将已经造好的钢筋混凝土进行组装，最后完成大工程，这就让工作量分到到每一个人手中，提高效率，分到压力，便于组装。相当于在函数名上加了宏定义，该函数名可根据实际需求进行更改，又或者是结构体中的结构体，对某一个结构体中的变量中的结构体可进行更改，即字典中的字典。以上理解仅本人感觉，可能不对，本人还需在以后的学习中持续纠正认知，仅供参考。
2025-05-18 14:01:56
365
原创 【Day28】
Python 通过缩进来定义代码块的结构。当解释器遇到像 def, class, if, for 这样的语句，并且后面跟着冒号 : 时，它就期望接下来会有一个或多个缩进的语句来构成这个代码块。如果它没有找到任何缩进的语句（即代码块是空的），它就无法确定这个结构的范围，因此会抛出 IndentationError。所以，当你需要一个语法上存在的代码块，但又暂时不想在其中放入任何实际的逻辑时，pass 就是一个完美的占位符，它告诉解释器：“这里有一个代码块，但它什么也不做。
2025-05-17 13:56:21
251
原创 【Day25】
如果找到匹配的，则执行该 except 块中的代码，然后继续执行整个 try-except 结构之后的代码（除非 except 块中又引发了新异常或执行了 return/break/continue 等）。相信大家在借助ai写代码的时候，经常会遇到try-except的异常处理模块，这是因为大部分大模型在后训练阶段都是经过强化学习训练的，为了确保结果的正确运行，只有采取 try-except的异常处理模块才能提高模型运行成功的概率。else 块中的代码不会被同一个 try 块的 except 子句捕获。
2025-05-14 17:14:13
642
原创 【Day23】
转换器（transformer）是一个用于对数据进行预处理和特征提取的 estimator，它实现一个 transform 方法，用于对数据进行预处理和特征提取。在管道机制中，可以使用Pipeline类来组织和连接不同的转换器和估计器。之所以提到管道，是因为后续你在阅读一些经典的代码的时候，尤其是官方文档，非常喜欢用管道来构建代码，甚至深度学习中也有类似的代码，初学者往往看起来很吃力。在机器学习中，通常会按照一定的顺序对数据进行预处理、特征提取、模型训练和模型评估等步骤，以实现机器学习模型的训练和评估。
2025-05-12 19:11:53
834
原创 【Day22】
自行学习参考如何使用kaggle平台，写下使用注意点，并对下述比赛提交代码。仔细回顾一下之前21天的内容，没跟上进度的同学补一下进度。预测率：Accuracy: 0.826。交叉验证平均准确率: 0.8361。交叉验证平均准确率: 0.8384。
2025-05-11 20:42:54
244
原创 【Day21】
t - SNE：在标准化后的数据集中表现最优，能清晰呈现数据的局部聚类和类别分布，适合探索数据的微观结构。SVD 与 PCA：作为线性方法，受限于数据的非线性特征，无法有效分离类别，可视化效果较差。LDA：因数据可能不满足线性可分假设或其他参数设置问题，未能发挥有监督降维的优势，效果最差。这些分析表明，降维方法的选择需紧密结合数据特性（如线性 / 非线性、类别分布等）。
2025-05-10 12:36:40
954
原创 【Day20】
对于任何矩阵（如结构化数据可以变为：样本*特征的矩阵，图像数据天然就是矩阵），均可做等价的奇异值SVD分解，对于分解后的矩阵，可以选取保留前K个奇异值及其对应的奇异向量，重构原始矩阵，可以通过计算Frobenius 范数相对误差来衡量原始矩阵和重构矩阵的差异。应用：结构化数据中，将原来的m个特征降维成k个新的特征，新特征是原始特征的线性组合，捕捉了数据的主要方差信息，降维后的数据可以直接用于机器学习模型（如分类、回归），通常能提高计算效率并减少过拟合风险。降噪：通常噪声对应较小的奇异值。
2025-05-09 12:33:38
373
原创 【Day18】
像 sex_0 在接近 0 处高频出现，exang_0 在接近 0 处也有高频率 ，fbs_0 在接近 1.0 处高频分布（这里数值接近反映分布特征）。说明该簇数据在这些变量上具有数值较小端集中的共性。如 sex_1、exang_1 等变量在相应数值区间有一定分布，不像簇 1 那样集中在小值端。如 exang_0 在接近 1.0 处高频出现（与簇 1 相对），说明该簇数据在对应变量上具有较大值集中的特性。定义：可定义为具有较小特征值属性的样本集合，可能代表一类具有初始、基础或低水平特征的对象。
2025-05-07 18:41:40
260
原创 【Day16】
因为前天说了shap，这里涉及到数据形状尺寸问题，所以需要在这一节说清楚，后续的神经网络我们将要和他天天打交道。numpy数组的创建：简单创建、随机创建、遍历、运算。numpy数组的索引：一维、二维、三维。：今日知识点比较多，好好记忆下。随机数组的创建代码汇总。功劳本，计功劳的本子啊。SHAP值的深入理解。
2025-05-05 18:24:29
327
原创 【Day15】
复习日仔细回顾一下之前14天的内容尝试找到一个kaggle或者其他地方的结构化数据集，用之前的内容完成一个全新的项目，这样你也是独立完成了一个专属于自己的项目要求：有数据地址的提供数据地址，没有地址的上传网盘贴出地址即可。尽可能与他人不同，优先选择本专业相关数据集探索一下开源数据的网站有哪些？数据地址：Dataset of SSD failures in Alibaba_数据集-阿里云天池该数据集的介绍：基于闪存的固态硬盘 （SSD） 越来越多地被用作现代数据中心的主流存储介质。
2025-05-04 22:06:15
2067
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人