- 博客(50)
- 收藏
- 关注
RSS订阅原创 Python训练营打卡Day50
尝试对vgg16+cbam进行微调策略。好好理解下resnet18的模型结构。针对预训练模型的训练策略。CBAM放置位置的思考。resnet结构解析。
2025-06-17 23:29:48
320
原创 Python训练营打卡Day48
知识点回顾：ps：numpy运算也有类似的广播机制，基本一致作业：自己多借助ai举几个例子帮助自己理解即可用于生成符合标准正态分布（均值为 0，方差为 1） 的随机张量，形状由输入参数指定。 示例 2：结合设备与数据类型虽然框架会自动计算，但理解原理有助于调参！输入参数：输出尺寸：输入参数：输出尺寸：广播机制允许不同形状的张量进行运算，通过自动扩展维度实现维度对齐。场景：给张量的每个通道添加相同的偏置核心逻辑：场景：对张量的每个空间位置乘以不同的权重广播规则总结：浙大疏锦行
2025-06-11 12:50:11
896
原创 Python训练营打开Day47
创建了一个修改版的 ResNet18 模型（ResNetWithCA），在不同卷积层后添加了通道注意力模块，并使用钩子函数保存中间特征图。定义了通道注意力模块（ChannelAttention），它通过全局平均池化和全局最大池化提取通道特征，然后通过全连接层生成注意力权重。运行脚本后，会生成一个包含四个卷积层（layer1 到 layer4）对比结果的图像文件，并在屏幕上显示。实现了特征图可视化功能，对比了不同卷积层的原始特征图、注意力权重和应用注意力后的特征图热效应。通道注意力后的特征图和热力图。
2025-06-10 16:51:10
225
原创 Python训练营打卡Day46
什么是注意力：注意力家族，类似于动物园，都是不同的模块，好不好试了才知道。对比不同卷积层特征图可视化的结果（可选）不同CNN层的特征图：不同通道的特征图。通道注意力：模型的定义和插入的位置。通道注意力后的特征图和热力图。今日代码较多，理解逻辑即可。
2025-06-09 10:22:19
424
原创 Python训练营打卡Day45
--核心是弄懂tensorboard可以打印什么信息，以及如何看可视化后的结果，把ai当成记忆大师用到的时候通过它来调取对应的代码即可。启动tensorboard的时候需要先在cmd中进入对应的环境，conda activate xxx，再用cd命令进入环境（如果本来就是正确的则无需操作）。tensorboard的代码还有有一定的记忆量，实际上深度学习的经典代码都是类似于八股文，看多了就习惯了，难度远远小于考研数学等需要思考的内容。tensorboard在cifar上的实战：MLP和CNN模型。
2025-06-07 15:56:18
206
原创 Python训练营打卡Day41
Flatten -> Dense (with Dropout，可选) -> Dense (Output)1. 输入 → 卷积层 → Batch归一化层（可选） → 池化层 → 激活函数 → 下一层。尝试手动修改下不同的调度器和CNN的结构，观察训练的差异。batch归一化：调整一个批次的分布，常用与图像数据。特征图：只有卷积操作输出的才叫特征图。调度器：直接修改基础学习率。卷积神经网络定义的写法。
2025-06-02 12:37:35
167
原创 Python训练营打卡DAY40
仔细学习下测试和训练代码的逻辑，这是基础，这个代码框架后续会一直沿用，后续的重点慢慢就是转向模型定义阶段了。dropout操作：训练阶段随机丢弃神经元，测试阶段eval模式关闭dropout。展平操作：除第一个维度batchsize外全部展平。彩色和灰度图片测试和训练的规范写法：封装在函数中。
2025-05-31 19:30:00
319
原创 Python训练营打卡Day39
知识点回顾显存一般被以下内容占用：模型参数与梯度：模型的权重（Parameters）和对应的梯度（Gradients）会占用显存，尤其是深度神经网络（如 Transformer、ResNet 等），一个 1 亿参数的模型（如 BERT-base），单精度（float32）参数占用约 400MB（1e8×4Byte），加上梯度则翻倍至 800MB（每个权重参数都有其对应的梯度）。部分优化器（如 Adam）会为每个参数存储动量（Momentum）和平方梯度（Square Gradient
2025-05-30 18:23:30
464
原创 Python训练营打卡Day38
一共包含 10 个类别的 RGB 彩色图 片：飞机（ airplane ）、汽车（ automobile ）、鸟类（ bird ）、猫（ cat ）、鹿（ deer ）、狗（ dog ）、蛙类（ frog ）、马（ horse ）、船（ ship ）和卡车（ truck ）。图片的尺寸为 32×32 ，数据集中一共有 50000 张训练图片和 10000 张测试图片。CIFAR-10 的图片样例如图所示。Dataset类的__getitem__和__len__方法（本质是python的特殊方法）
2025-05-27 20:30:00
568
原创 Python训练营打卡Day37
对信贷数据集训练后保存权重，加载权重后继续训练50轮，并采取早停策略。保存全部信息checkpoint，还包含训练状态。过拟合的判断：测试集和训练集同步打印指标。
2025-05-26 18:40:37
224
原创 Python训练营打卡Day36
对之前的信贷项目，利用神经网络训练下，尝试用到目前的知识点让代码更加规范和美观。仔细回顾一下神经网络到目前的内容，没跟上进度的同学补一下进度。：尝试进入nn.Module中，查看他的方法。来创建自定义的神经网络，就像示例中的。探索性作业（随意完成）
2025-05-25 16:47:02
373
原创 Python训练营打卡Day35
通过修改模型超参数（如层数、通道数、激活函数），观察模型复杂度、参数量及性能的变化。三种不同的模型可视化方法：推荐torchinfo打印summary+权重分布可视化。进度条功能：手动和自动写法，让打印结果更加美观。推理的写法：评估模式。
2025-05-24 11:37:12
391
原创 Python训练营打卡Day34
self.fc1是一个实例化的对象，为什么具备了函数一样的用法，这是因为nn.Linear继承了nn.Module类，nn.Module类中定义了__call__方法。可以注意到，self.fc1 = nn.Linear(4, 10) 此时，是实例化了一个nn.Linear(4, 10)对象，并把这个对象赋值给了MLP的初始化函数中的self.fc1变量。综上，数据传输和各种固定开销的总和，超过了 GPU 在这点计算量上通过并行处理所能节省的时间，导致了 GPU 比 CPU 慢的现象。
2025-05-23 23:05:49
1017
原创 Python训练营打卡Day33
查看显卡信息的命令行命令（cmd中使用）数据预处理（归一化、转换成张量）PyTorch和cuda的安装。继承nn.Module类。定义损失函数和优化器。
2025-05-22 21:04:38
147
原创 Python训练营打卡Day32
参考pdpbox官方文档中的其他类，绘制相应的图，任选即可。官方文档的阅读和使用：要求安装的包和文档为同一个版本。官方文档的检索方式：github和官网。绘图的理解：对底层库的调用。普通方法所需要的参数。
2025-05-21 15:54:23
206
原创 Python训练营打卡31
Python 文件应使用 UTF-8 编码，在文件开头可以添加如下编码声明.：建议使用类型注解来增强代码的可读性和可维护性。将代码按照不同的功能划分到多个文件和包中。DAY 31 文件的规范拆分和写法。目录：存放原始数据和处理后的数据。常见的 Python 项目结构。：负责数据加载和预处理。目录：存储训练好的模型。：实现模型训练逻辑。：实现模型评估逻辑。
2025-05-20 20:45:00
359
原创 Python训练营打卡Day30
导入库/模块的核心逻辑：找到根目录（python解释器的目录和终端的目录不一致）：自己新建几个不同路径文件尝试下如何导入。根据不同的使用场景，导入的方法可以不同。导入自定义库/模块的方式。导入官方库的三种手段。
2025-05-19 13:06:22
265
原创 Python训练营打卡Day28
calculate_perimeter()：计算周长（公式：2×(长+宽)）。创建一个工厂函数 create_shape(shape_type, *args)，根据类型创建不同图形对象：图形工厂（函数或类）calculate_circumference()：计算圆的周长（公式：2πr）。shape_type="rectangle"：创建长方形（参数：长、宽）。calculate_area()：计算圆的面积（公式：πr²）。calculate_area()：计算面积（公式：长×宽）。
2025-05-17 15:41:07
301
原创 Pyhton训练营打卡Day27
编写一个装饰器 logger，在函数执行前后打印日志信息（如函数名、参数、返回值）[日志] 参数: args=(3, 5), kwargs={}今天任务重加之今天自己有事情，下次补上这次学习内容。[日志] 开始执行函数: add。[日志] 函数 add 执行完毕。装饰器的思想：进一步复用。[日志] 返回值: 8。注意内部函数的返回值。
2025-05-16 21:52:16
370
原创 Python训练营打卡Day26
编写一个名为 calculate_circle_area 的函数，该函数接收圆的半径 radius 作为参数，并返回圆的面积。编写一个名为 calculate_average 的函数，该函数可以接收任意数量的数字作为参数（引入可变位置参数 (*args)），并返回它们的平均值。编写一个名为 print_user_info 的函数，该函数接收一个必需的参数 user_id，以及任意数量的额外用户信息（作为关键字参数）。如果长度或宽度为负数，函数应该返回 0。的函数，该函数接收图形的名称。
2025-05-15 15:43:22
815
原创 Python训练营打卡Day25
知识点回顾：异常处理机制debug过程中的各类报错try-except机制try-except-else-finally机制在即将进入深度学习专题学习前，我们最后差缺补漏，把一些常见且重要的知识点给他们补上，加深对代码和流程的理解。作业：理解今日的内容即可，可以检查自己过去借助ai写的代码是否带有try-except机制，以后可以尝试采用这类写法增加代码健壮性。
2025-05-14 11:31:16
405
原创 Pyhton训练营打卡Day23
知识回顾:转化器和估计器的概念管道工程ColumnTransformer和Pipeline类pipeline是一个用于组合多个估计器（estimator）的 estimator，它实现了一个流水线，其中每个估计器都按照一定的顺序执行。在pipeline中，每个估计器都实现了fit和transform方法，fit方法用于训练模型，transform方法用于对数据进行预处理和特征提取。在此之前我们先介绍下 转换器（transformer）和估计器（estimator）的概念。
2025-05-12 11:19:34
709
原创 Python训练营打卡Day21
作业：自由作业：探索下什么时候用到降维？降维的主要应用？或者让ai给你出题，群里的同学互相学习下。可以考虑对比下在某些特定数据集上t-sne的可视化和pca可视化的区别。
2025-05-10 10:05:50
382
原创 Python训练营打卡Day20
SVD奇异值分解可以有效地压缩数据，实际采集到的数据往往会受到各种噪声的干扰SVD 是一种强大的特征提取工具，它能够将数据的主要特征提取出来，在处理高维数据时，会面临计算复杂度高、数据稀疏等问题，这时候就需要对数据进行降维。对于任何矩阵（如结构化数据可以变为：样本*特征的矩阵，图像数据天然就是矩阵），均可做等价的奇异值SVD分解，对于分解后的矩阵，可以选取保留前K个奇异值及其对应的奇异向量，重构原始矩阵，可以通过计算Frobenius 范数相对误差来衡量原始矩阵和重构矩阵的差异。
2025-05-09 11:03:19
235
原创 Python训练营打卡Day18
你最开始聚类的时候，就选择了你想最后用来确定簇含义的特征，那么你需要选择一些特征来进行聚类，那么你最后确定簇含义的特征就是这几个特征，而非全部。如你想聚类消费者购买习惯，那么他过去的消费记录、购买记录、购买金额等等，这些特征都与消费者购买习惯有关，你可以使用这些特征来确定簇含义，一些其他的特征，如消费者年龄，工作行业则不考虑。----适用于你本身就有构造某些明确含义的特征的情况。现在需要给这个簇赋予实际的含义，一般当你赋予实际含义的时候，你需要根据某几个特征来赋予，但是源数据特征很多，如何选择特征呢？
2025-05-07 12:13:27
348
原创 Python训练营打卡Day16
作业：今日知识点比较多，好好记忆下数组简单的创建打印结果列表有逗号隔开数字，数组用空格隔开数据。数组可以随机化创建（方法二中random.random没有前缀np）数组的遍历。
2025-05-05 10:26:50
767
原创 Python训练营打卡Day15
尝试找到一个kaggle或者其他地方的结构化数据集，用之前的内容完成一个全新的项目，这样你也是独立完成了一个专属于自己的项目。完整代码如下：（与环境相关的项目）其中打印的shap图其中之一。
2025-05-04 21:24:30
325
原创 Python训练营打卡Day14
尝试确定一下shap各个绘图函数对于每一个参数的尺寸要求，如shap.force_plot力图中的数据需要满足什么形状？确定分类问题和回归问题的数据如何才能满足尺寸，分类采取信贷数据集，回归采取单车数据集。今日作业偏思考类型，有一定难度。参考上述文档补全剩余的几个图。
2025-05-03 13:47:28
297
原创 Python训练营打卡Day13
从示例代码可以看到 效果没有变好，所以很多步骤都是理想是好的，但是显示并不一定可以变好。这个实验仍然有改进空间，如下。1. 我还没做smote+过采样+修改权重的组合策略，有可能一起做会变好。2. 我还没有调参，有可能调参后再取上述策略可能会变好。smote过采样+修改权重+网格搜索调参。
2025-05-02 13:02:37
300
原创 Python训练营打卡Day12
否则，以概率exp(−Δt′/T)接受新解，温度T越高，接受较差解的概率越大，随着温度降低，接受较差解的概率逐渐减小。按照一定的降温策略，逐渐降低温度T，并在每个温度下重复上述产生新解、判断接受与否的步骤，直到满足终止条件，如达到最低温度或连续多次新解都未被接受等，此时的当前解即为近似最优解。根据问题的目标函数，计算每个个体的适应度，衡量解的优劣程度。重复上述步骤，不断迭代更新粒子的位置和速度，直到满足收敛条件，如达到最大迭代次数、粒子的位置或适应度变化很小等，此时得到的最优粒子位置就是问题的近似最优解。
2025-05-01 15:54:12
391
原创 Python训练营打卡Day11
今天代码有点多，我主要参考了复试班的源代码，复习了一遍。自己一点点敲还是记不住。需要拿出一大段时间来专心学习一下了。对于信贷数据的其他模型，如LightGBM和KNN 尝试用下贝叶斯优化和网格搜索。做这一步之前需要对数据进行预处理，并导入需要的模型，对LightGBM要采用网格搜索的话也是类似。接下来开始尝试不同的模型。贝叶斯优化和网格搜索。
2025-04-30 09:40:00
245
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人