yueguang8的博客

Sigmoid函数，也称为Logistic函数，是一种常用的数学函数。由于其非线性的特性，Sigmoid函数在机器学习和神经网络中具有广泛的应用，尤其在早期的模型中；可以使用Sigmoid函数进行多标签分类。

在 PyTorch 中，nn.Module 是所有神经网络模型的基类，提供了许多重要的成员函数。nn.Module 提供了许多常用的功能，方便构建和管理神经网络模型。了解这些成员函数有助于更有效地使用 PyTorch 进行深度学习任务

在深度学习中,BCE (Binary Cross-Entropy) 损失是一种常用的损失函数,主要应用于二分类问题,通过优化该损失来训练模型,使预测概率尽可能接近真实标签。另外介绍了logp函数及其使用。

nn.BCEWithLogitsLoss 是 PyTorch 中一种非常实用的二分类损失函数,它结合了 Sigmoid 激活和二元交叉熵损失,在数值稳定性和梯度计算方面都有所改进,是深度学习实践中的首选之一。它不仅具有良好的数值稳定性,还可以方便地处理样本不平衡等问题,是值得深入学习和应用的重要知识点

非极大值抑制（Non-Maximum Suppression，NMS）是深度学习中一种常用的目标检测算法，用于在检测结果中去除冗余的边界框。在目标检测任务中，通常会使用候选框（bounding boxes）来表示可能包含目标物体的区域。这些候选框是通过目标检测模型生成的，每个候选框都会伴随一个置信度分数，表示该候选框包含目标物体的概率。当候选框的数量较多时，简单地选择置信度最高的候选框可能会导致冗余和重叠的检测结果。NMS算法通过判断候选框之间的重叠程度，去除那些与已选择的候选框高度重叠

指数移动平均模型（Exponential Moving Average Model，EMA）是一种用于平滑时间序列数据的技术。它通过对数据进行加权平均来减少噪音和波动，从而提取出数据的趋势。在深度学习中，EMA 常常用于模型的参数更新和优化过程中。它可以帮助模型在训练过程中更稳定地收敛，并提高模型的泛化能力。

动量是深度学习中非常重要的优化技术,它能有效提高训练的稳定性和收敛速度。掌握动量的原理和使用方法对于训练高性能的深度学习模型非常关键。

在深度学习中，梯度是用于更新模型参数的关键信息。然而，当使用低精度数据类型（如半精度浮点数）进行训练时，梯度的计算可能会受到数值溢出或下溢的影响，导致训练不稳定或无法收敛。

优化器(Optimizer)是深度学习训练中非常关键的组件,它负责根据损失函数的梯度来更新模型参数,从而使模型性能不断提升。优化器的选择和调优是深度学习中的关键技术之一,需要结合具体任务进行实践探索。掌握优化器的原理和使用方法对于训练高性能模型非常重要。

权重衰减是深度学习中一种非常重要的正则化技术,它能有效防止模型过拟合,提高泛化性能。掌握权重衰减的原理和应用对于训练高性能的深度学习模型非常关键。

调度器是深度学习训练过程中非常重要的一部分,它用于动态调整模型的学习率,从而提高训练效率和最终性能。本章详细介绍调度器的作用以及调度器的种类及使用。

混合精度训练是一种通过同时使用 FP16 和 FP32 精度来加速深度学习训练的技术。它可以在不损失模型性能的情况下,显著减少训练时间和内存使用。

chunk()和split()这两个函数都可以将张量按照指定的维度拆分成多个子张量。它们的主要区别在于返回值和拆分方式。文章详细介绍了其使用方法及示例。

nn.Sequential 是 PyTorch 库中的一个类，它允许通过按顺序堆叠多个层来创建神经网络模型。它提供了一种方便的方式来定义和组织神经网络的层。文章详细介绍模型的定义修改、删除、参数访问、参数冻结等方法的详细使用说明；另外介绍了其他模型构建的方式及模型的加载保存。

介绍"backbone"、"neck"和"head"等常用的术语，并介绍了每一部分的作用及基本组成。

在 PyTorch 中，model.eval() 是用于将模型设置为评估模式的方法，而 model.fuse() 是用于量化模型中的融合操作的方法。本文将详细介绍其使用。

Kimi是月之暗面科技有限公司（Moonshot AI）开发的人工智能助手，Kimi的设计旨在提高效率和便利性，适用于多种专业场景，如学术研究、法律咨询、软件开发等，为用户提供全面的信息处理和技术支持服务

torch.save()和torch.load()是PyTorch中用于模型保存和加载的函数。它们提供了一种方便的方式来保存和恢复模型的状态、结构和参数。可以使用它们来保存和加载整个模型或其他任意的Python对象，并且可以在加载模型时指定目标设备。

在深度学习学习中，有许多常用的评估指标用于衡量模型的性能。下面是一些常见的指标及其定义和说明。关键名字解释：TP表示真正例（True Positive），即模型正确预测为正例的样本数量；TN表示真负例（True Negative），即模型正确预测为负例的样本数量；FP表示假正例（False Positive），即模型错误地将负例预测为正例的样本数量；FN表示假负例（False Negative），即模型错误地将正例预测为负例的样本数量。

Dataset、Dataloader、Sampler和collate_fn是在PyTorch中用于处理数据加载和预处理的关键组件。它们相互关联并协同工作以有效地加载、处理训练和测试数据。文章介绍了各个组件的功能及工作原理并给出示例代码。

使用torch.utils.data.random_split()函数可以方便快捷的对数据集进行随机划分，生成训练集测试集及验证集。

介绍了pytorch内置数据集加载以及自定义数据集加载的代码格式及相关参数介绍，示例MNIST数据集手动加载的代码实现及运行结果。

1x1卷积核可以控制channel的升降，减少参数计算量以及增加网络的非线性表达能力

人流统计 目标检测 Aidlux yolo