Lucy_wzw的博客

跳转到了安装环境里面的mmengine/runner/runner.py。以上是关于mmdet 环境输出相关的所有代码。

是在深度学习框架（例如 PyTorch 和 TensorFlow）中配置数据加载器时的重要参数。它决定了用于数据加载的并发子进程数量，会直接影响以下计算资源的使用：根据硬件配置调整：监控资源使用：内存受限时的设置：调试时逐步尝试：总结： 影响 CPU 使用率、内存占用、磁盘 I/O 和 GPU 数据供应效率。合理调整该参数可以加速数据加载、提高训练效率，同时避免硬件资源的过载或浪费。

在ultralytics的8.3.49的版本中，如果第一次安装，就会记录在本地~/.config/Ultralytics/settings.json下。第二次安装不会改变这个目录的内容，就会从里面读取save_dir。

要求张量的形状完全一致或能够通过达到一致。

将输入数据缩放到特定范围（如[0, 1]或[-1, 1]normalized_x = (x - x_min) / (x_max - x_min) # 归一化到 [0, 1]2. 批归一化 (Batch Normalization)

如果模型结构较为复杂且分配不均，可以手动将模型的不同层放到不同的GPU上。会将模型放在第一块卡上，然后将输入数据均匀地分配到所有卡上。这可能会导致第一块卡显存占用过多。PyTorch的多卡支持在新版本中不断优化，如果你的PyTorch版本较旧，升级可能带来显存均衡和利用率的改善。更高效，它会将模型均匀分布到每张卡上，避免单一GPU显存过载。碎片化严重时，显存利用率会变差，导致显存不均衡。），这可以在一定程度上减轻显存的负担，让每张卡占用更接近。显存不均衡有时是因为显存碎片化造成的，可以在训练开始前调用。

可以选择直接创建、初始化为全零或全一、生成随机数等方式。如果需要特定规则（比如等间距、单位矩阵等），使用或torch.eye。对于高效操作，尽量预分配张量。

在 PyTorch 中，可以使用torch.cat或来合并多个张量（tensor）。torch.cat。

在 PyTorch 中，保存和加载模型通常使用torch.save和torch.load。

如果需要理解 Tensor 的概率分布随层变化的影响，更适合通过其他手段，比如对 logits 或中间层输出直接操作，而不是反复 softmax。此时，数值的绝对大小会被压缩，差距较大的值会得到显著的强化，而差距较小的值会趋于均匀。因为 softmax 操作本身是对数值的指数运算，它会逐步放大数值之间的差距。经过多次迭代后，较大的值会占据主要比例，小的值会被排挤。如果某些值在初始分布中较大，经过多次 softmax 后，它们的相对比例会越来越大，而较小的值会进一步被压缩为接近零。最终，分布可能会接近。

这表示张量的批量大小是 1，每个通道有 64 个特征，但高度和宽度均为 1。这个错误通常出现在使用 BatchNorm 或其他需要计算统计量的操作中，而这些操作需要至少有两个样本来计算均值和方差。通过chatgpt分析，这个错误表明在训练某个深度学习模型时，输入张量的形状不符合预期。采用基于mobilenetv2的backbone的ssd代码，训练coco的数据集。但是程序开始运行的时候没有报错，而是一个epoch要结束的时候报错。在1710个迭代的时候，就报错了。（1）把最后的一个的一个数据丢了。