Active learning 总结

最新推荐文章于 2023-04-20 17:43:31 发布
最新推荐文章于 2023-04-20 17:43:31 发布
阅读量4.9k 收藏 4
点赞数 2
CC 4.0 BY-SA版权
分类专栏： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/alwaystry/article/details/52410954
本文探讨了Active Learning中选择信息性和代表性样本的重要性。通过QUIRE方法平衡这两种特性，旨在最小化所有样本的损失，包括已标记和未标记样本。文章还提到了SVM分类器、预聚类结合主动学习的策略，以及不同主动学习策略的比较，如不确定性采样、查询委员会和预期模型变化等。此外，还讨论了强化学习和半监督学习等相关领域。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

Active learning by querying informative andrepresentative examples

PAMI 2014

本文主旨：将优化问题转换为在每一轮中选择的样本使得所有的样本损失最小，包括已标记样本和未标记样本。

Informative and representative :

Informative: 位于分类面边缘上的数据，比如说DNN paper中选取熵最大的数据。但是这样会带来一个问题，容易忽略数据原有的概率分布。特别是在小部分数据出现误检的时候，仅仅依靠离分类面远近是无法判断的。

Representative:寻找数据潜在的分布规律。通常利用聚类实现。不足之处在于，不能确定每类的label相同，同时不便于控制选择的数据量。

本文提出了一种新的方法，QUIRE，给出寻找informative 和representative 的衡量和折中。

 

 

QUIRE:

Query informative and representativeexamples

在新的一轮中，不论选中的x的label是什么，都会使得所有样本的损失最小。

SVM classifier

 

 

Active learning using pre-clustering

将clustering 和classification 结合起来，避免同一cluster中sample的重复标记。

方法局限于linear logistic regression. 本文目的仅仅为了说明clusteringinformation的优越性。

使用soft clustering membership， 允许一个sample以某一概率和多个cluster相连接。

两类分类问题

 

 

Active learning by learning

最低0.47元/天 解锁文章

200万优质内容无限畅学
讨论主动学习（Active Learning）在标注数据中的应用
qq_38334677的博客
05-14 869
通过有选择性地标注那些模型“最不确定”或“信息量最大”的样本，主动学习可以在标注预算有限的情况下，更快地提升模型性能，或者用更少的标注数据达到与随机抽样标注相当甚至更好的模型性能。提供了一种有效的策略，旨在通过智能地选择最有价值的未标注样本交由人工进行标注，从而在达到目标模型性能的前提下，最大限度地减少标注成本。主动学习通过智能化地利用有限的标注资源，为构建高性能机器学习模型提供了一条经济高效的路径，在数据标注成为瓶颈的今天，其重要性日益凸显。选择那些如果被标注，预期会对当前模型产生最大影响的样本。
Active Learning原理与代码实例讲解
AI架构师小马
12-24 734
Active Learning, 数据标注, 模型训练, 策略选择, 算法原理, 代码实例, Python 1. 背景介绍 在机器学习领域，高质量的标注数据是模型训练的关键要素。然而，人工标注数据成本高昂且耗时，这成为了机器学习应用的瓶颈之一。Active Learning (主动学
Active Learning主动学习
幸福驿站
03-17 1787
主动学习（Active Learning） 在某些情况下，没有类标签的数据相当丰富而有类标签的数据相当稀少，并且人工对数据进行标记的成本又相当高昂。在这种情况下，我们可以让学习算法主动地提出要对哪些数据进行标注，之后我们要将这些数据送到砖家那里让他们进行标注，再将这些数据加入到训练样本集中对算法进行训练，提高模型的精确度。这一过程叫做主动学习。 主动学习那些比较难的，信息量大的样本。而这些样本...
[Machine Learning] Active Learning
weixin_34055787的博客
05-21 284
1. 写在前面 　　在机器学习(Machine learning)领域，监督学习(Supervised learning)、非监督学习(Unsupervised learning)以及半监督学习(Semi-supervised learning)是三类研究比较多，应用比较广的学习技术，wiki上对这三种学习的简单描述如下： 监督学习：通过已有的一部分输入数据与输出数据之间的对应关系，生成一...
Active learning(主动学习)
haimengao的专栏
07-08 2581
主动学习假设： 1、AL implicitly assumes that a large pool of unlabeled documents is available and that querying this pool is cheap compared to labeling since the latter tak es a human expert’s time
主动学习综述(ACTIVE LEARNING)
weixin_34179762的博客
12-03 1139
2019独角兽企业重金招聘Python工程师标准>>> ...
Active-Learning
03-06
主动学习（Python） 如今，获取未标记的数据已经非常简单。 但是，获取标记数据确实是非常困难的任务。 主动学习是一个这样的框架，当您的数据有限而又需要更高的模型准确性时，该框架将为您提供帮助。 智能查询以识别信息最多的实例是主动学习的基本原理。 建立任何主动学习模型的关键因素是我们选择的确定性度量和我们应用的查询策略。 查询策略： 1.不确定性抽样 任何活跃的学习者在看到一组未标记的示例后，都会提取出最有用的示例，并提供相同的示例以进行标记。 首先，为每个示例计算衡量预测的有用性，然后根据有用性进行决策。 分类不确定性，分类余量和分类熵是modAL文档中针对基于主动学习池的采样和基于流的采样的三种内置度量，这是可以将实例发送到查询以评估度量有用性的不同方式。 基于池的采样 下面的示例使用基于池的采样展示了Active学习者在fetch_covtype数据集上的应用。 此处，与未标记数
【Active Learning - 04】Generative Adversarial Active Learning
Houchaoqun_XMU的博客
04-28 2529
【2017.11.15】Generative Adversarial Active Learning 相关文档： 【2017】Generative Adversarial Active Learning.pdf【2017】Generative Adversarial Active Learning_PPT.pdf 学习笔记：GAN + Active learning 主要步骤： GANs ...
【Active Learning - 13】总结与展望 & 参考文献的整理与分享（The End...）
Houchaoqun_XMU的博客
12-01 6158
写在前面： 本篇博文将作为“主动学习系列”博文的结尾。目前，本人在职的相关工作暂无与主动学习相关的需求。因此，之后大概率是不会再更新相关的博文了。能够分享的内容和资料，我都分享在这些博文了。希望能够对大家有帮助！ 主动学习系列博文： 【Active Learning - 00】主动学习重要资源总结、分享（提供源码的论文、一些AL相关的研究者）：https://blog.youkuaiyun.com/Ho...
主动学习（Active Learning，AL）综述
蓝鲸鱼的博客
03-20 8841
目录1. 基本概念2. 基于不确定性的主动学习方法3.基于最近邻和支持向量的分类器的方法3.1 NNClassifier3.2 RBF network + Gradient Penalty4 基于特征空间覆盖的方法5 基于对抗学习的方法5.1 VAAL5.1.1 核心思想5.1.2 网络结构5.1.3 主动学习策略5.1.4 模型特点5.2 SRAAL5.3 ARAL6 融合不确定性和多样性的学习方法6.1 信息论思路6.2 构建候选集+大差异样本——SA6.3 梯度嵌入空间——badge7 基于变化最大的
Active learning
jiongjiongai的博客
11-12 238
Active learning Motivation If a learning algorithm can choose data it wants to learn from, then it can perform better. Steps Gether data: Representative of true distribution. Split into seed and unla...
Active Learning 主动学习
xiaopihaierletian的博客
11-08 1794
最近读了一篇paper，题目是An MRF Model-Based Active Learning Framework for the Spectral-Spatial Classification of Hyperspectral Imagery。（题目这么长我也不想的......）这篇文章主要说了马尔科夫随机场还有active learning (AL)结合的问题。刚开始让给我学习AL的时候我
主动学习（Active Learning）
青年有志
04-20 7408
主动学习基本介绍
主动学习(Active Learning)
热门推荐
猪逻辑公园
12-26 6万+
1. 写在前面 　　在机器学习(Machine learning)领域，监督学习(Supervised learning)、非监督学习(Unsupervised learning)以及半监督学习(Semi-supervised learning)是三类研究比较多，应用比较广的学习技术，wiki上对这三种学习的简单描述如下： 监督学习：通过已有的一部分输入数据与输出数据之间的对应关系，生成一个函...
主动学习（active learning）
qq_46458188的博客
06-10 2166
主动学习
主动学习 active learning
yang_daxia的博客
12-28 319
任何模型都有模型上限，也就是说，即使加入再多的数据，模型也不会增长。所以应该加入尽可能少的数据，更有价值的数据。 总结：主动学习为在无标注的样本池中，挖掘有用的数据标注训练，使得模型使用尽可能少的样本达到模型的上限。 参考： https://zhuanlan.zhihu.com/p/39367595 主动学习(Active learning)算法的原理是什么，有哪些比较具体的应用？ - 阿里巴巴淘系技术的回答 - 知乎 https://www.zhihu.com/question/265479171
主动学习（Active Learning,AL）
weixin_62501745的博客
01-29 934
针对有监督的学习任务，存在标记成本较为昂贵且标记难以大量获取的问题。 在此问题背景下，主动学习（Active Learning, AL）尝试通过选择性的标记较少数据而训练出表现较好的模型。
B.2【智能标注】：主动学习（Active Learning）简介综述汇总以及主流技术方案
丨汀、的博客
10-26 1877
主动学习是指对需要标记的数据进行优先排序的过程，这样可以确定哪些数据对训练监督模型产生最大的影响。主动学习是一种学习算法可以交互式查询用户(teacher 或 oracle)，用真实标签标注新数据点的策略。主动学习的过程也被称为优化实验设计。主动学习的动机在于认识到并非所有标有标签的样本都同等重要。主动学习是一种策略/算法，是对现有模型的增强。而不是新模型架构。主动学习背后的关键思想是，如果允许机器学习算法选择它学习的数据，这样就可以用更少的训练标签实现更高的准确性。
一句话总结数据标注
最新发布
04-29
<think>好的，我现在要回答用户关于数据标注的概念和总结的问题。首先，我需要理解用户的需求，他们想要一个清晰的定义和总结。根据用户提供的引用，我需要综合这些信息来构建一个全面的回答。 首先，引用[4]提到数据标注是以项目方式组织的，涉及管理流程，这可能帮助我解释其系统性和工程性。然后引用[2]和[3]讨论了手工与自动标注的结合，以及不同类型的数据标注，比如文本的分类和序列标注。引用[1]则提到了数据标注的挑战，如质量、效率和成本，这些可以作为总结中的关键点。 接下来，我需要将这些信息组织成结构化的内容。先定义数据标注，说明其作为数据处理基础步骤的重要性。然后分点讨论核心要素，可能包括标注对象、方法、流程、质量控制和挑战。每个部分需要结合引用中的具体内容，例如标注类型来自引用[3]，手工与自动结合的方法来自引用[2]。 同时，用户要求使用中文，并遵循格式要求，比如数学表达式用$...$，不过这个问题可能不太涉及数学公式，但要注意如果有变量或术语的话。另外，生成相关问题部分需要根据回答内容提出，可能需要涵盖应用、挑战、技术方法等方面。 需要确保回答结构清晰，分点明确，并且自然地插入引用标识。最后检查是否符合所有系统级指令，比如引用位置正确，格式无误。可能还需要验证是否有遗漏的重要点，比如数据标注的项目管理方面，引用[4]提到的项目实施流程，这也应该包含在总结中。</think>### 数据标注的概念与总结 **数据标注**是人工智能与机器学习领域的核心基础环节，指通过人工或自动化方法对原始数据（如文本、图像、音频、视频等）添加标签或注释，赋予其结构化信息的过程。其本质是为模型训练提供“参考答案”，帮助算法理解数据特征与关联规律[^4]。 #### 核心要素 1. **标注对象** 涵盖多种数据类型： - **文本**：序列标注（如实体识别$BIO$标签）、类别标注（如情感分类）、关系标注（如语义依存）[^3] - **图像**：目标检测（边界框坐标$(x,y,w,h)$）、语义分割（像素级标签） - **多模态数据**：跨媒体关联标注（如视频帧与文本描述对齐） 2. **标注方法** - **手工标注**：人工标注确保高精度，适用于小规模高质量数据（如医学影像标注）[^2] - **自动标注**：利用预训练模型生成初稿，再经人工校验（如文本情感自动分类+人工修正）[^2] - **混合模式**：迭代式标注（人工标注→模型训练→自动标注补充→人工审核优化）[^4] 3. **标注流程** 典型项目管理流程包括： ```text 需求分析 → 标注规则设计 → 工具配置 → 人员培训 → 标注实施 → 质量抽检 → 数据交付 ``` 需平衡效率与质量，例如通过交叉验证降低标注错误率[^4]。 4. **质量控制** 关键指标包括： - 一致性（不同标注员间信度系数$\kappa \geq 0.8$） - 准确率（通过抽样复检计算$Accuracy = \frac{TP+TN}{Total}$） - 覆盖率（标注规则对边缘案例的覆盖程度） #### 核心挑战 - **质量保障**：标注标准模糊性导致歧义（如“轻微剐蹭”在自动驾驶图像中的判定边界）[^1] - **成本控制**：专业领域标注成本高昂（如法律文书标注需律师参与）[^1] - **效率优化**：需结合主动学习（Active Learning）筛选高价值样本优先标注[^2] #### 总结 数据标注是将原始数据转化为机器可理解知识的核心桥梁，其质量直接影响模型性能上限。未来趋势包括：半自动化标注工具链的成熟、领域自适应标注规范的标准化，以及基于众包模式的分布式标注体系发展[^4]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值