YOLOv11改进 | 模型知识蒸馏篇 | 利用模型蒸馏改进YOLOv11进行无损涨点 | MGDLoss（在线蒸馏 + 离线蒸馏）

一、本文介绍

这篇文章给大家带来最新改进的是模型的蒸馏，利用教师模型指导学生模型从而进行模型的涨点，本文的内容不仅可以用于论文中，在目前的绝大多数的工作中模型蒸馏是一项非常重要的技术，所以大家可以仔细学习一下本文的内容，本文从YOLOv11的项目文件为例，进行详细的修改教程， 文章内包括完整的修改教程，针对小白我出了视频修改教程，如果你还不会我提供了修改后的文件大家直接运行即可，所以说不用担心不会适用！模型蒸馏真正的无损涨点，蒸馏你只看这一篇文章就足够了！

欢迎大家订阅我的专栏一起学习YOLO！ 

专栏回顾：YOLOv11改进系列专栏——本专栏持续复习各种顶会内容——科研必备

---

目录

一、本文介绍

二、蒸馏教程

2.1 修改一

2.2 修改二（注意看此处，和之前的文章不一样）

2.3 修改三

2.4 修改四 

2.5 修改五 

2.6 修改六

2.7 修改七 

2.8 修改八 

2.8 修改九

2.9 修改十

2.10 修改十一

2.11 修改十二

2.12 修改十三

2.13 修改十四

2.14 修改十五

三、使用教程 

3.1 模型蒸馏代码

3.2 开始蒸馏 

四、完整文件和视频讲解

四、本文总结

---

二、蒸馏教程

知识蒸馏的主要方法可以分为三种：基于响应的知识蒸馏（利用教师模型的输出或对最终预测的模仿）、基于特征的知识蒸馏（使用教师模型中间层的特征表示）以及基于关系的知识蒸馏（利用模型内部不同层或不同数据点之间的关系）。每种方法都旨在从大模型中提取有效信息，并通过特定的损失函数将这些信息灌输给学生模型​。

首先，基于模型的知识蒸馏类型包括：

• 1. 基于响应的蒸馏（Response-based）：使用教师模型的最后输出层的信息（如类别概率）来训练学生模型。
• 2. 基于特征的蒸馏（Feature-based）：利用教师模型的中间层特征来指导学生模型。
• 3. 基于关系的蒸馏（Relation-based）：侧重于教师模型内不同特征之间的关系，如特征图之间的相互作用。

蒸馏过程的实施方式：

• 1. 在线蒸馏（Online distillation）：教师模型和学生模型同时训练，学生模型实时学习教师模型的知识。
• 2. 离线蒸馏（Offline distillation）：先训练教师模型，再使用该模型来训练学生模型，学生模型不会影响教师模型。
• 3. 自蒸馏（Self distillation）：模型使用