- 博客(51)
- 收藏
- 关注
原创 Python打卡训练营Day50
学习率调整:使用 StepLR 调度器,每 5 个 epoch 降低学习率,有助于模型收敛。阶段 2:解冻更多层,使用差异化学习率(底层小学习率,高层大学习率),微调中间层特征。阶段 1:冻结大部分预训练参数,仅训练最后几层和 CBAM 模块,防止灾难性遗忘。阶段 3:解冻所有层,使用低学习率全局微调,进一步优化模型。
2025-06-11 23:31:25
198
原创 Python打卡训练营Day48
知识点回顾:随机张量的生成:torch.randn函数卷积和池化的计算公式(可以不掌握,会自动计算的)pytorch的广播机制:加法和乘法的广播机制ps:numpy运算也有类似的广播机制,基本一致。
2025-06-09 23:14:59
149
原创 Python打卡训练营Day46
transformer中的叫做自注意力机制,他是一种自己学习自己的机制,我们现在说的很多模块,比如通道注意力、空间注意力、通道注意力等等,都是基于自注意力机制的。PS:通道注意力若在MaxPool之后操作,输入的H×W尺寸更小(如56×56→28×28),空间信息更粗糙,可能导致权重学习不准确,当然,如果输入分辨率极高(如512×512)那确实需要先池化再进入通道注意力模块,减少一点参数量。想要把通道注意力插入到模型中,需要定义注意力模块,再重写之前的模型定义部分,确定好模块插入的位置。
2025-06-07 08:31:19
392
原创 Python打卡训练营Day44
就像是走进厨房,仔细观察ResNet这道菜的制作过程,尤其是它的残差连接(一种将原材料直接加入半成品中的技巧),理解它如何保持食材的新鲜度(信息流动)和提升。就像在新店尝试不同的招牌菜,比较它们的受欢迎程度(模型性能)、制作时间(训练时间)和厨房资源占用(显存占用),找出最适合新店的菜品(模型)。
2025-06-04 20:45:15
283
原创 Python打卡训练营Day39
模型参数和梯度参数:就像餐厅的厨师和他们的烹饪工具,模型参数是模型的核心组成部分,梯度参数是训练过程中用来更新模型参数的数据。彩色图像:就像餐厅提供丰富多彩的菜单,彩色图像通常有三个颜色通道(RGB),每个通道用一个字节表示,分别对应红、绿、蓝三种颜色的强度。模型定义:就像餐厅的菜谱,详细描述了如何制作每道菜。数据批量所占显存:就像餐厅同时服务的顾客数量,数据批量是每次训练时加载到显存中的数据量。优化器参数:就像餐厅的管理策略,优化器参数用于指导模型的训练过程,帮助模型更好地学习。1. 图像数据的格式。
2025-05-30 08:17:36
356
原创 Python打卡训练营Day36
对之前的信贷项目,利用神经网络训练下,尝试用到目前的知识点让代码更加规范和美观。回顾一下神经网络到目前的内容,没跟上进度的同学补一下进度。:尝试进入nn.Module中,查看他的方法。
2025-05-26 00:07:09
244
原创 Python打卡训练营Day35
高学习率(0.1)+ 小模型(hidden_size=5) 的组合可能适用于简单任务,但可能不稳定(Loss=0.0948 比 Adam 高)。测试准确率最高(96.67%),与配置3相同,但Loss更低(0.0634 vs 0.0948),说明训练更稳定。追求高准确率 & 稳定训练 → 选择配置2(lr=0.001, hidden_size=20, Adam)隐藏层大小并非越大越好,配置2(20)和配置3(5)表现相当,但训练时间不同。训练最快(1.90s),且准确率与配置2相当(96.67%)。
2025-05-24 22:45:21
430
原创 python打卡训练营Day33
1. 分类任务中,若标签是整数(如 0/1/2 类别),需转为long类型(对应 PyTorch 的torch.long),否则交叉熵损失函数会报错。2. 回归任务中,标签需转为float类型(如torch.float32)。查看显卡信息的命令行命令(cmd中使用)数据预处理(归一化、转换成张量)PyTorch和cuda的安装。继承nn.Module类。定义损失函数和优化器。
2025-05-22 21:40:28
181
原创 Python打卡训练营Day30
圆周率π的值:3.141592653589793。2的平方根:1.4142135623730951。:自己新建几个不同路径文件尝试下如何导入。方式1:使用 import math。3.非标准导入:导入整个库。1、标准导入:导入整个库。2、从库中导入特征项。
2025-05-19 22:28:59
173
原创 Python打卡训练营Day29
所以还是需要理解 装饰器本质就是一个语法糖,对类而言:@decorator 语法只是 MyClass = decorator(MyClass) 的简写,即使类已定义,仍可手动调用装饰器函数修改它。我们之前是用复用的思想来看装饰器的,换一个角度理解,当你想修改一个函数的时候,可以通过装饰器方法来修改而无需重新定义这个函数。在类定义外部定义方法,然后把方法赋值给类的属性---这是一种动态方法,常在装饰器中使用,可以再外部修改类的方法。类也有修饰器,他的逻辑类似:接收一个类,返回一个修改后的类。
2025-05-18 22:09:34
383
原创 Python打卡训练营Day25
2. 避免意外捕获: 如果把“成功后的后续步骤”也放在 try 块里,而这些步骤本身也可能引发 try 块想要捕获的同类型异常,那么就会导致逻辑混淆。原因:尝试导入一个不存在的模块,或者模块存在但其中的特定名称找不到, Python 的模块加载器找不到这个模块。原因: 尝试打开一个不存在的文件(通常是在读模式下),或者路径不正确。原因: 尝试访问序列(如列表、元组、字符串)中一个不存在的索引。原因: 尝试使用一个未被定义的变量、函数或对象的名称。原因: 尝试访问字典中一个不存在的键。
2025-05-14 23:16:29
304
原创 python打卡训练营 DAY23
特征转换 :对不同类型的特征(如数值型、类别型)进行相应的转换,例如标准化、编码等。7. 模型调优 :通过网格搜索、随机搜索等方法调整模型的超参数,以提高模型性能。5. 模型训练 :选择合适的机器学习模型并在训练集上进行训练。1. 数据加载 :从文件、数据库或其他数据源中读取数据。2. 数据清洗 :处理缺失值、异常值,去除重复数据等。- 特征选择 :选择对模型有重要影响的特征。4. 数据集划分 :将数据划分为训练集和测试集。6. 模型评估 :使用测试集评估模型的性能。
2025-05-12 21:32:01
180
原创 python打卡训练营Day21
然而需要注意的是,由于 t-SNE 过程引入了一定程度的随机性和敏感参数调整依赖性强等问题,可能导致重复运行结果不完全一致。从上面脚本产生的图表可以看出,虽然两种方式都能有效呈现原始数据的空间布局,但在细节刻画方面各有侧重——前者强调宏观视角下的连续变化轨迹,后者则突出离散型个体之间细微差别所在之处。通过减少数据的维度,不仅可以降低计算复杂度,还能帮助揭示隐藏在高维数据中的结构和模式1。综上所述,选择何种降维方案取决于实际应用场景的具体需求以及待解决问题本身的性质等因素共同决定。
2025-05-10 21:55:19
346
原创 Python 打卡训练营day17
实际在论文中聚类的策略不一定是针对所有特征,可以针对其中几个可以解释的特征进行聚类,得到聚类后的类别,这样后续进行解释也更加符合逻辑。DBSCAN 的参数是 eps 和min_samples,选完他们出现k和评估指标。除了经典的评估指标,还需要关注聚类出来每个簇对应的样本个数,避免太少没有意义。聚类常见算法:kmeans聚类、dbscan聚类、层次聚类。KMeans 和层次聚类的参数是K值,选完k指标就确定。以及层次聚类的 linkage准则等都需要仔细调优。选择合适的算法,根据评估指标调参( )
2025-05-06 22:53:12
261
原创 Python打卡训练营 Day14
2.尝试确定一下shap各个绘图函数对于每一个参数的尺寸要求,如shap.force_plot力图中的数据需要满足什么形状?- 分类问题:shap_values.shape =(n_samples, n_features, n_classes)- 回归问题:shap_values.shape = (n_samples, n_features)SHAP对不同问题维度不同,简单来讲,就是shap_value长得不一样。计算:计算shaply值,这里算的是单个值哦,借助各个不同的组合来计算。
2025-05-03 23:51:54
334
原创 Python 打卡训练营Day3
目的: 在不改变已训练好的模型的情况下,根据业务需求调整精确率(Precision)和召回率(Recall)之间的权衡。随机过采样的缺点是,它可能会增加训练集的大小,从而增加训练时间。当模型错误分类一个具有高权重的少数类样本时,会受到更大的惩罚(更高的损失值)。这种方法在模型训练阶段介入,通过调整不同类别样本对损失函数的贡献来影响模型的学习过程。过采样是把少的类别补充和多的类别一样多,欠采样是把多的类别减少和少的类别一样。随机过采样的优点是,它可以增加少数类的样本数,从而提高模型的泛化能力。
2025-05-02 23:24:37
481
原创 Python打卡训练营Day12
作业:今天以自由探索的思路为主,尝试检索资料、视频、文档,用尽可能简短但是清晰的语言看是否能说清楚这三种算法每种算法的实现逻辑,帮助更深入的理解。一、遗传算法(Genetic Algorithm, GA)核心逻辑:模仿生物进化中的"优胜劣汰"机制,通过种群迭代进化寻找最优解。类比:假设你有一群不同基因的鸟(初始种群),目标是找到飞得最高的鸟。通过不断让优秀的鸟交配(交叉)、偶尔基因突变(变异),后代逐渐进化出更强的飞行能力。实现步骤:1. 初始化种群。
2025-05-01 22:47:25
1509
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅