【Active Learning - 10】图像分类技术和主动学习方法概述

主动学习系列博文：

【Active Learning - 00】主动学习重要资源总结、分享（提供源码的论文、一些AL相关的研究者）：https://blog.youkuaiyun.com/Houchaoqun_XMU/article/details/85245714

【Active Learning - 01】深入学习“主动学习”：如何显著地减少标注代价：https://blog.youkuaiyun.com/Houchaoqun_XMU/article/details/80146710

【Active Learning - 02】Fine-tuning Convolutional Neural Networks for Biomedical Image Analysis: Actively and Incrementally：https://blog.youkuaiyun.com/Houchaoqun_XMU/article/details/78874834

【Active Learning - 03】Adaptive Active Learning for Image Classification：https://blog.youkuaiyun.com/Houchaoqun_XMU/article/details/89553144

【Active Learning - 04】Generative Adversarial Active Learning：https://blog.youkuaiyun.com/Houchaoqun_XMU/article/details/89631986

【Active Learning - 05】Adversarial Sampling for Active Learning：https://blog.youkuaiyun.com/Houchaoqun_XMU/article/details/89736607

【Active Learning - 06】面向图像分类任务的主动学习系统（理论篇）：https://blog.youkuaiyun.com/Houchaoqun_XMU/article/details/89717028

【Active Learning - 07】面向图像分类任务的主动学习系统（实践篇 - 展示）：https://blog.youkuaiyun.com/Houchaoqun_XMU/article/details/89955561

【Active Learning - 08】主动学习（Active Learning）资料汇总与分享：https://blog.youkuaiyun.com/Houchaoqun_XMU/article/details/96210160

【Active Learning - 09】主动学习策略研究及其在图像分类中的应用：研究背景与研究意义：https://blog.youkuaiyun.com/Houchaoqun_XMU/article/details/100177750

【Active Learning - 10】图像分类技术和主动学习方法概述：https://blog.youkuaiyun.com/Houchaoqun_XMU/article/details/101126055

【Active Learning - 11】一种噪声鲁棒的半监督主动学习框架：https://blog.youkuaiyun.com/Houchaoqun_XMU/article/details/102417465

【Active Learning - 12】一种基于生成对抗网络的二阶段主动学习方法：https://blog.youkuaiyun.com/Houchaoqun_XMU/article/details/103093810

【Active Learning - 13】总结与展望 & 参考文献的整理与分享（The End...）：https://blog.youkuaiyun.com/Houchaoqun_XMU/article/details/103094113

 

---

2.1 导言

机器学习方法根据模型在训练过程中是否使用标注样本，可进一步细分为监督学习和无监督学习等训练方式。监督学习利用大量的高质量标注样本训练模型，在计算机视觉领域中取得了许多显著的成绩。近几年，大量以监督学习为训练方式的机器学习算法不断被提出并应用到不同的领域中，同时产生了对大量标注样本的高度需求。因此，如何在保证不降低模型性能的情况下，显著地减少标注成本是个亟待解决的挑战，并逐渐引起了业界的广泛关注。无监督学习旨在挖掘未标注样本之间的内在联系，如 K-Means 聚类算法[54]。此外，半监督学习是介于监督学习和无监督学习的一种学习方式，基本思想是使用少量的标注样本进行预训练，并充分利用未标注样本训练模型，如自训练算法[55]。主动学习方法和图像分类技术都能够以上述三种训练方法应用到不同的需求中，本章将分别详细地概述。
 

2.2 图像分类技术

目前，主流的图像分类技术可划分为基于传统机器学习的方法以及基于深层网络模型的深度学习方法。如图2.1所示，传统机器学习方法首先对预处理完后的数据进行特征提取；紧接着，分类器基于提取后的特征进行训练。由于手工提取特征（Hand-crafted）方法和分类器都是基于一定的理论基础进行设计，因此具有较好的可解释性。但是，传统机器学习方法的效果过度依赖于特征，而手工设计的特征具有较大的局限性且难于设计，因此仍无法胜任一些复杂的任务。深度学习算法通过深层的网络结构将特征提取任务和分类器以端到端的方式整合到同一个网络中，并使用大量的标注样本通过反向传播机制不断更新模型参数，从而同