qq_40671063的博客

正则化是一种降低机器学习模型过拟合风险的技术。L1正则化公式：L2正则化公式：L1正则化实际上就是L1范数，L1简单示意图：L2正则化实际是L2范数，L2简单示意图：从上面两图可以看出L1和L2正则化函数是凸函数，可行域是凸集，对应的问题是一个凸优化问题 -- 简单问题（可以看王木头学科学的视频，我这里介绍的不清楚：“L1和L2正则化”直观理解(之一)，从拉格朗日乘数法角度进行理解_哔哩哔哩_bilibili。

通过数据管道，你可以对爬取到的数据进行一系列的处理，例如清洗数据、验证数据、将数据保存到数据库等。是 Scrapy 项目中的一个文件，用于定义数据结构，也称为 "item"。中间件是在 Scrapy 中处理请求和响应的钩子（hooks），它们可以用于修改或处理 Scrapy 发出的每一个请求和收到的每一个响应。是 Scrapy 项目中的一个配置文件，用于定义和配置项目的各种设置和参数。文件通常是一个 Scrapy 爬虫脚本，这里的示例用于定义从 New York Times 网站上爬取数据的爬虫。

显示是我自己的，因此需要重新配置为师姐的。场景： 在我的电脑上替师姐上传代码。

FileSystemLoader中传入的是文件夹的名称，可以传入多个文件夹名称，该类会自动查找其路径。使用了 {% include 'port_conf.sub.conf.tpl' -%}data为list时，模板中可用data.0取第一个值'1.1.1.1'jinja2模板使用if 条件判断。传参数到jinja2模板文件。jinja2模板使用for循环。include导入其他模板。jinja2模板使用过滤器。jinja2模块化的模板。加载jinja2的模板。jinja2 模板继承。将渲染的模板写入文件。

类方法是通过类本身来调用的，而不是通过类的实例来调用。类方法接收的第一个参数是类本身（通常命名为。使用类方法作为工厂函数，可以隐藏对象的创建细节，并在创建对象时执行一些额外的逻辑.由于类方法接收的是类本身作为第一个参数，因此它们可以用于修改类级别的状态或属性。都是类方法，它们分别用于设置和获取类级别的变量。是一个装饰器，用于指示一个方法是一个类方法;是一个类方法，用作工厂函数来创建类的实例。方法内部调用了类的构造函数。），而不是类的实例。

【代码】柱状图和折线图放在一张图上展示matplotlib.pyplot -- 详细步骤。

F1得分可以解释为精确度和召回率的调和平均值，其中F1得分达到其最佳值为1，最差得分为0。: 计算每个标签的指标，并找到它们的平均加权支持 (每个标签的真实实例数)。: 计算每个实例的指标，并找到它们的平均值 (仅对于与accuracy_score不同的多标签分类有意义)。这仅适用于目标 (y_{true，pred}) 是二分类的。在多类别和多标签的情况下，这是每个类别的F1得分的平均值，其权重取决于平均参数。不受数据不平衡影响，容易受到识别性高（高recall、高precision）的类别影响；

允许模型共同关注来自不同表示子空间的信息。多头注意力被定义为：如果满足以下所有条件，forward() 将使用 FlashAttention 中描述的优化实现：（1）计算自注意力（即查询、键和值是相同的张量。将来会放宽此限制。（2）使用 batch_first==True 对输入进行批处理 (3维)（3）autograd 被禁用（使用 torch.inference_mode 或 torch.no_grad）或没有张量参数 requires_grad（4）训练被禁用（使用 .eval()）

大家可以试着跑一下这个代码。train_mask截图。

顺序容器。Sequential 的 forward() 方法接受任何输入并将其转发到它包含的第一个模块（第一个定义的网络，比如nn.Linear）。然后它为每个后续模块按顺序将输出“链接”到输入，最后返回最后一个模块的输出。Sequential 提供的超过手动调用一系列模块的价值在于它允许将整个容器视为单个模块，这样对 Sequential 执行的转换将应用于它存储的每个模块（每个模块都是顺序的注册子模块）。Sequential 和 torch.nn.ModuleList 有什么区别？

data:要求加载或者类型数据；: 每轮迭代要采样邻居节点的个数，即第i-1轮要为每个节点采样个节点，如果为-1，则代表所有邻居节点都将被包含(一阶相邻邻居)，在异构图中，还可以使用字典来表示每个单独的边缘类型要采样的邻居数量；: 中心节点集合，用来指导采样一个mini-batch内的节点，如果为None，则代表包含data中的所有节点。如果设置为 None，将考虑所有节点。在异构图中，需要作为包含节点类型和节点索引的元组传递。（默认值：None）

【代码】list 去重，list中包含list 去重。

【代码】python项目自动选择可用gpu。

ubuntu 系统安装docker——使用docker打包python项目，整个流程介绍

torch分布式数据并行：torch.nn.parallel.DistributedDataParallel（DDP），代码书写步骤

pytorch 指定网络不同部分使用不同学习率

python3 filter()函数

sys.argv介绍

总结python的内置类型int，float，bool，str，list，tuple，dict，set和io.FileIOfile支持的操作符和方法

python 操作符介绍

joblib介绍

Parallel Processing in Python - Python 中的并行处理

使用python画柱状图（matplotlib.pyplot）-- 你想要的设置这张图基本都包括

国内安装python包镜像

数据集太大，保存模型参数，接着下一部分数据集再更新模型参数

pytorch编程用法记录

pandas 涉及内容的用法

pytorch训练错误记录

python 打乱列表，字典顺序

pytorch训练项目记录时间

linux下kill某个用户所有进程

ijson 介绍 - 处理超大json文件时用这个，不会出现内存溢出问题

Python日志库logging

关于DataLoader中的collate_fn

wandb使用前提 - 注册，登陆

Wandb 记录模型训练情况

yaml介绍 - 数据类型、基本语法、数据类型的使用

Jupyter Notebook 远程连接服务器 (mac os)

python 箱线图的绘制方法

python 相似性计算方法 - 余弦相似度，皮尔逊相关系数