- 博客(38)
- 收藏
- 关注
原创 day42grad—cam
在深度学习中,我们经常需要查看或修改模型中间层的输出或梯度。然而,标准的前向传播和反向传播过程通常是一个黑盒,我们很难直接访问中间层的信息。PyTorch 提供了一种强大的工具——hook 函数,它允许我们在不修改模型结构的情况下,获取或修改中间层的信息。它的核心价值在于让开发者能够动态监听、捕获甚至修改模型内部任意层的输入 / 输出或梯度,而无需修改模型的原始代码结构。我们之前介绍过机器学习可解释性工具,例如 SHAP、PDPBox 等,这些工具在处理结构化数据时,能够有效揭示模型内部的决策逻辑。
2026-01-07 21:39:18
600
原创 day40训练与测试的规范写法
测试函数和绘图函数均被封装在了train函数中,但是test和绘图函数在定义train函数之后,这是因为在 Python 中,函数定义的顺序不影响调用,只要在调用前已经完成定义即可。之前我们用mlp训练鸢尾花数据集的时候并没有用函数的形式来封装训练和测试过程,这样写会让代码更加具有逻辑-----隔离参数和内容。昨天我们介绍了图像数据的格式以及模型定义的过程,发现和之前结构化数据的略有不同,主要差异体现在2处。这里我们先不写早停策略,因为规范的早停策略需要用到验证集,一般还需要划分测试集。
2026-01-05 22:24:58
187
原创 day39图像数据与显存
从这里开始我们进入到了图像数据相关的部分,也是默认你有之前复试班计算机视觉相关的知识,但是一些基础的概念我仍然会提。昨天我们介绍了minist这个经典的手写数据集,作为图像数据,相较于结构化数据(表格数据)他的特点在于他每个样本的的形状并不是(特征数,),而是(宽,高,通道数)上述是昨天的代码,我们介绍了图像数据的预处理,这是我们首次接触图像数据,他和之前的结构化数据有什么差异点呢?
2026-01-04 23:30:13
836
原创 day38 Dataset和Dataloader
在遇到大规模数据集时,显存常常无法一次性存储所有数据,所以需要使用分批训练的方法。为此,PyTorch提供了DataLoader类,该类可以自动将数据集切分为多个批次batch,并支持多线程加载数据。此外,还存在Dataset类,该类可以定义数据集的读取方式和预处理方式。为了引入这些概念,我们现在接触一个新的而且非常经典的数据集:MNIST手写数字数据集。该数据集包含60000张训练图片和10000张测试图片,每张图片大小为28*28像素,共包含10个类别。
2026-01-02 22:49:29
713
原创 day35模型可视化和推理
创建一个进度条对象,并传入总迭代次数。一般用with语句创建对象,这样对象会在with语句结束后自动销毁,保证资源释放。with是常见的上下文管理器,这样的使用方式还有用with打开文件,结束后会自动关闭文件。我们介绍下tqdm这个库,他非常适合用在循环中观察进度。尤其在深度学习这种训练是循环的场景中。更新进度条,通过pbar.update(n)指定每次前进的步数n(适用于非固定步长的循环)。
2025-12-30 16:35:04
312
原创 day34 GPU训练与call方法
在上述代码中,循环里的 loss.item() 操作会在每个 epoch 都进行一次从 GPU 到 CPU 的数据同步和传输,以便获取标量损失值。方法是一个特殊的魔术方法(双下划线方法),它允许类的实例像函数一样被调用。综上,数据传输和各种固定开销的总和,超过了 GPU 在这点计算量上通过并行处理所能节省的时间,导致了 GPU 比 CPU 慢的现象。在 PyTorch 里,.to(device) 方法的作用是把张量或者模型转移到指定的计算设备(像 CPU 或者 GPU)上。如何衡量GPU的性能好坏呢?
2025-12-28 21:44:41
632
原创 day32官方文件的阅读
大多数 Python 库都会有官方文档,里面包含了函数的详细说明、用法示例以及版本兼容性信息。我们以pdpbox这个机器学习解释性库来介绍如何使用官方文档。-在官方文档中搜索函数名,然后查看函数的详细说明和用法示例。一般通过github仓库都可以找到对应的官方文档那个。
2025-12-24 23:46:04
220
原创 day30模块与包的导入
这些接口是通过一种叫做Python/C API的技术实现的,其中C++的功能被封装成Python模块,使得Python用户可以像使用纯Python编写的库一样使用OpenCV。OpenCV的核心是用C++编写,并且已经编译成二进制文件,编译后的二进制文件可以在不同操作系统上运行,Python中的用户通常不能直接看到方法的源代码。二进制文件是机器语言,处理器可以直接理解和执行无需翻译,二进制语言反汇编是很困难的,用二进制语言除了效果好外,也是让用户无法看到源代码,保护了自己的知识产权。
2025-12-23 23:21:11
259
原创 day29类的装饰器
所以你还是需要理解 装饰器本质就是一个语法糖,对类而言:@decorator 语法只是 MyClass = decorator(MyClass) 的简写,即使类已定义,仍可手动调用装饰器函数修改它。ps:之前无论是函数还是类的装饰器,我们都发现是先有装饰器,再有类。那既然我们说了装饰器除了让原本的代码更加清晰可读可复用,还具有修改函数or类的功能。通过外部赋值,可以在不修改类定义的前提下,为类添加新方法或修改已有方法。---理解动态的含义。装饰器中常用外部赋值,是为了在不修改原类代码的情况下增强类的功能。
2025-12-21 16:00:19
298
原创 day28类的定义与方法
总结: Python 通过缩进来定义代码块的结构。当解释器遇到像 def, class, if, for 这样的语句,并且后面跟着冒号 : 时,它就期望接下来会有一个或多个缩进的语句来构成这个代码块。如果它没有找到任何缩进的语句(即代码块是空的),它就无法确定这个结构的范围,因此会抛出 IndentationError。pass 语句的存在就是为了解决这个问题:它本身不执行任何操作,但它是一个有效的 Python 语句。
2025-12-20 15:11:10
245
原创 day27装饰器
这种等价的设计,会让初学者搞不懂为什么突然可以采取这种优雅的写法,类似的写法还有很多,在python中叫做语法糖:通过规范的写法来让代码更加优美和简洁,比如列表推导式也是,我们在后面再提。装饰器的本质是一个高阶函数,它接收一个函数作为参数,并返回一个新函数来替代原函数。你可以把@理解为语法糖操作,实际上并非是@装饰器,而是@装饰器+下一行的代码 二者是一个整体。因此,我们需要在装饰器内部定义一个新函数来实现这些功能。也就是说装饰后,原函数名指向。
2025-12-19 23:12:58
202
原创 day26函数专题1
parameter1,parameter2,.函数的参数(也叫形参),是函数在被调用时接收的输入值。函数体(Function Body):缩进的代码块,包含实现函数功能的语句。函数是 Python 编程的核心,它不仅能让代码实现复用(DRY原则),更是构建复杂机器学习工作流(如你之前学的 Pipeline)的基础单元。:function name:函数的名称,应遵循Python的命名约定(通常是小写字母和下划线,例如 calculate area,用英文单词含义和下划线来作为函数名)。
2025-12-17 21:47:44
259
原创 day25 异常处理
Python的异常处理机制为程序提供了强大的容错能力 (fault tolerance)。当程序在运行时遇到意外情况(即异常),它不会直接崩溃,而是可以被设计成优雅地处理这些错误,并可能继续执行后续逻辑(如果设计允许)或以可控的方式结束。当异常发生时,Python会创建一个异常对象 (exception object)(通常是 Exception 类的子类实例)。如果这段可能出错的代码位于 try 语句块中,程序流程会寻找并跳转到匹配的 except 语句块(如果存在)来处理这个异常。
2025-12-15 20:52:32
235
原创 day24 元组与os模块
元组 (): 用于将每个步骤的名称和处理对象捆绑在一起。名称用于在后续访问或设置参数时引用该步骤,而对象则是实际执行数据转换或模型训练的工具。列表 []: 定义了步骤执行的先后顺序。Pipeline 会按照列表中的顺序依次处理数据。之所以用列表,是未来可以对这个列表进行修改。有序,可以重复,这一点和列表一样元组中的元素不能修改,这一点非常重要,深度学习场景中很多参数、形状定义好了确保后续不能被修改。管道工程中pipeline类接收的是一个包含多个小元组的 列表 作为输入。不用字典因为字典是无序的。
2025-12-14 22:56:20
289
原创 day23 常见特征筛选算法
6.递归特征消除(RFE) 属于包裹法:反复训练指定模型,每次移除模型判定的“最不重要特征”,直到保留预设数量的特征。优点是直接以模型性能为筛选依据,精度较高;5.SHAP 重要性 是树模型重要性的进阶版:基于 SHAP 值(解释模型预测的统一框架)计算特征重要性,不仅能体现特征的整体影响程度,还能展示特征对预测结果的正负方向,解释性更强。1.方差筛选 是最基础的过滤法:计算特征的方差,剔除方差极低的特征(这类特征数值变化小,对样本区分度弱)。优点是计算极快,缺点是只看特征自身,不考虑和目标的关联。
2025-12-13 22:48:31
177
原创 day22推断聚类后簇的类型
先用所有特征进行聚类,然后把聚类结果(簇标签)当作“目标变量”,把原始特征作为输入变量。再训练一个监督学习模型(如决策树、随机森林四),通过特征重要性(Feature lmportance)来识别哪些特征最能区分不同簇。注:其核心思想为把聚类结果当标签,再反过来训练监督模型解释它,通过监督学习的可解释性,来反推聚类的结构。总结:聚类的目标不是简单分组,而是要用合适特征构建有意义的簇;例如:要分析“消费者购买习惯”,只使用购买金额、频率、种类等特征,而不使用年龄或行业等无关特征。
2025-12-12 00:04:29
210
原创 day21 常见降维算法
特征降维1.无监督降维:这类算法在降维过程中任何关于数据样本的标签信息(比如类别标签、目标值等)。它们仅仅根据数据点本身的分布、方差、相关性、局部结构等特性来寻找低维表示。2.有监督降维:这类算法在降维过程中数据样本的标签信息(通常是类别标签y它们的目标是找到一个低维子空间,在这个子空间中,不同类别的数据点能够被更好地分离开,或者说,这个低维表示更有利于后续的分类(或回归)任务。主成分分析法:PCA识别数据中方差最大的方向(即主成分)。
2025-12-09 22:43:46
334
原创 day18 回归问题与置信区间
转换为矩阵,100次模拟与测试集样本数。在seaborn没有传入对应参数时如何实现置信区间?将strength作为预测目标。计算置信区间,去中间95%预测连续数值——混凝土抗压强度数据集。定义并训练模型-展示指标对比表。绘图设置-加载数据-数据切分。
2025-12-05 23:33:26
215
原创 day17多分类问题
KS:样本累计分布函数与理论分布的最大绝对差。MCC:需要具体预测类型,需要定阈值。二、鸢尾花三分类数据集。三、MCC和KS指标。
2025-12-03 22:47:39
182
原创 day16 ROC曲线与PR曲线
AUC曲线:模型将随机选择的一个正样本排在随机选择的一个负样本之前的概率。例如,如果 AUC=0.85,意味着随机抽取一个正例和一个负例,模型有 85% 的概率认为这个正例的得分(预测概率)高于那个负例的得分。三、ROC曲线:描绘了模型在各种分类阈值下,捕捉正样本的能力 (TPR) 与错误识别负样本的能力 (FPR) 之间的权衡。四、PR曲线:模型在不同分类阈值下,精确率 (Precision) 和 召回率 (Recall) 之间的权衡关系。它关注的是所有被模型预测为正样本中,真正是正样本的比例。
2025-11-29 15:51:45
312
原创 day15 不平衡数据的处理
删除与自身类别不一致的多数类样本,平滑分类便捷,使少数类与多数类的界限更加清晰,即清洗边界点。确定少数类样本数,从少数类中随机选择样本并复制,将复制的样本添加到训练集。提高少数类的召回率,但是因为丢失信息导致准确率下降。通过在少数类样本的特征空间中进行插值来合成新的样本。2.2.2ENN基于紧邻的欠采样技术。增加少数类样本数,提高模型泛化能力。2.2.1随机欠采样。2.3混合采样——过采样加欠采样。2.1.2smote过采样。一、数据准备与基线模型。2.1.1随机过采样。
2025-11-21 15:31:53
193
原创 day13 多目标优化
4. 训练一个默认参数的随机森林模型作为我们的基准(Baseline),以便后续与优化后的模型进行对比。2. 对分类型和连续型特征进行预处理,包括标签编码、独热编码和缺失值填充。二、多目标优化——平衡多个冲突目标。三、使用deap库实现多目标优化。3. 划分训练集和测试集。
2025-11-20 20:01:48
253
原创 day13 启发式算法
粒子群算法:PSO 算法是受鸟群捕食行为或鱼群游动启发的优化技术。与遗传算法(GA)基于“优胜劣汰”的演化机制不同,PSO 基于群体协作和信息共享来寻找最优解。遗传算法:把“问题的每个可能解”当成一个“生物个体”,通过“繁殖、变异”让好的解留下,差的解淘汰,一代代进化出更好的解。(接受暂时变差的解),再“逐渐收敛”(越来越少接受差解)最后稳定在一个好解。生成两个列表[1,2]与[3,4]的所有元素组合(笛卡尔积)带条件过滤的列表推导式。带嵌套循环的列表推导式。1.简单的列表推导式。
2025-11-19 14:52:20
251
原创 day12 贝叶斯优化与随机森林
pip install bayesian-optimization -i https://mirrors.aliyun.com/pypi/simple/一、元组——有序,不可变/修改,可迭代切片。返回一个由字典中所有对组成的视图图像。二、字典的tiems方法。三、贝叶斯优化可视化。
2025-11-18 20:48:18
339
原创 day11常见调参方式
4.2基线模型:使用默认参数训练模型,记录性能指标作为对比基准,后续调参结果以此为参照。贝叶斯优化——智能优化。随机搜索——随机采样。1.概述——模型组成=算法+实例化设置的外参数+训练得到的内参数。调参方法:网格搜索——穷举式搜索。3.1方案一——三分法:训练集,验证集,测试集。5.实战——随机森林调参。
2025-11-17 16:23:11
210
原创 day9热力图与子图绘制
`vmin, vmax`: 设置颜色条的最小值和最大值。使用enumerate()函数可以同时获取元素的索引和值。- `annot=True`: 在每个单元格中显示数值。- `center`: 设置颜色的中心值(通常设为0)- `fmt='.2f'`: 数值格式,保留2位小数。- `square=True`: 设置单元格为正方形。- `linewidths`: 单元格之间的线宽。- `cbar_kws`: 颜色条的参数设置。热力图用于展示连续变量之间的关系。- `cmap`: 配色方案。
2025-11-12 19:08:52
248
原创 day8标签编码与连续变量处理
1.3.1归一化与标准化——缩放到01区间,转换为均值为0标准差为1的分布。1.2.2term特征编码(三分类以上才涉及独热编码)1.2.1home ownership特征编码。定义映射字典,应用映射并查看结果,查看特征分布。字典性质:可变类型,唯一性,不可变性,任意性。1.1字典的简单介绍。
2025-11-11 13:49:52
186
原创 day6数据可视化
标签离散、特征连续的话可以绘制两个箱线图。更加完整,可以使用核密度完成边缘的柔和化。或者使用select_dtypes方法。可以指定图的类型,坐标轴,标题。二、初识matplotlib。中文字符不全与警告的解决方式。三、绘制特征与标签的关系。绘制离散变量和标签的关系。
2025-11-09 15:36:26
196
原创 day5离散特征的处理(独热编码)
方法总结:找到离散变量-独热编码映射-转换类型-填补缺失值。在发现不具备顺序关系后可以采用one-hot编码。使用循环遍历进行均值填补。找到独热编码的新特征名。
2025-11-06 23:22:09
233
原创 day4 pandas
data["income"].fillna(median_income,inplace=True)原地填充false输出新表。mode_income = data["income"].mode()众数。data = pd.read_csv()相对路径与绝对路径。data['income'].dtype某一列的数据类型。data.isnull().sum()缺失值计数并求和。data.describe()每一列描述性统计。data.isnull()布尔矩阵显示缺失值。type(data)类型。
2025-11-05 22:34:49
340
原创 day2 字符串操作与比较运算
3.切片text = greeting[0:5]1-6个 [:5]从头到第六个 [:]全部。1.字符串 str 数值 -整数int -浮点数float -布尔值bool。2.索引first_char = greeting(0)2.类型转换——str()int()float()type函数查看变量类型。1.拼接 长度len()
2025-11-03 19:50:19
237
原创 day1 变量与格式化字符串
3.格式化字符串 print("我的名字是" + "name")2.转义字符-以反斜杠开头表示无法输入的字符或特殊功能。+ - * / % .2f保留两位小数。二、数值变量基础运算。
2025-11-02 20:52:57
212
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅