Semi-supervised Learning Literature Survey

最新推荐文章于 2024-03-18 21:16:36 发布
最新推荐文章于 2024-03-18 21:16:36 发布
阅读量1.8k 收藏 1
点赞数
分类专栏： Machine learning
本文介绍了朱晓进教授关于半监督学习的重要工作及其在统计机器学习和自然语言理解领域的应用。朱晓进现任教于美国威斯康星大学，其研究重点包括基于图的半监督学习方法。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

Semi-supervised Learning Literature Survey

发表于 2011-09-16 由 lixiang
　　朱晓进 (Jerry Xiaojin Zhu)，现为美国威斯康星大学 (University of Wisconsin, Madison) 计算机系的助理教授。朱晓进1993年从中国的上海交通大学毕业并获得其计算机的学士学位。1996年获得美国卡内基梅隆大学计算机系的硕士学位，2000年和2002年又分别获得CMU的语言和信息技术等专业的两个硕士学位。2005年，朱晓进从CMU获得其计算机科学的博士学位。其导师是计算机科学中人工智能机器学习等领域的世界级大师John Lafferty。朱晓进在CMU的博士论文为Semi-Supervised Learning with Graphs。
　　 朱晓进教授目前的研究方向为基于统计的机器学习，自然语言理解等，更多内容请参考朱老师的主页：pages.cs.wisc.edu/~jerryzhu。
　　 本文主要介绍朱老师很著名的一篇关于半监督学习 (Semi-supervised Learning) 的文章，也希望在后面的研究中理解这种 Learning 方法。

此条目由 lixiang 发表在 Research 分类目录，并贴了 Semi-supervised Learning 标签。将 固定链接加入收藏夹。

发表评论 取消回复

电子邮件地址不会被公开。 必填项已用 * 标注

您可以使用这些 HTML 标签和属性： <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>

半监督学习 (SemiSupervised Learning) 原理与代码实例讲解
AI天才研究院
06-12 675
半监督学习 (Semi-Supervised Learning) 原理与代码实例讲解 1.背景介绍 在机器学习领域，数据是驱动模型性能的关键因素。然而，获取大量标注数据往往是昂贵且耗时的。半监督学习（Semi-Supervised Learni
Semi-Supervised Learning
extremecold
12-08 1865
简介 半监督学习算法 Self-Training Models Mixture Models and EM 有监督分类的混合模型 半监督分类的混合模型 EM算法求解 THE ASSUMPTIONS OF MIXTURE MODELS CLUSTER-THEN-LABEL METHODS Co-Training协同训练 THE ASSUMPTIONS OF CO-TRAINING Graph
半监督学习综述(a survey of semi-supervised learning)
11-28
一篇数据挖掘课的作业论文。 关于半监督学习方面的综述性文章。 所参考文献在2009年以前。 目前这方面的中文文献相对较少，希望我的这篇作业能对有兴趣做这方面研究的朋友有所帮助，其中错误之处还请大家多多指出。
(待完善)半监督学习(Semi-supervised learning)综述
rosefun96的博客
12-12 6111
半监督学习(Semi-supervised learning)综述 1. 关于半监督学习 半监督学习是机器学习的分支，主要利用有标签样本以及无标签样本用于用于特定学习的任务。如下图，半监督学习有利于获得更准确的分类边界。 在这里插入图片描述 1.2 半监督学习的假设 （1）平滑假设 如何输入的两个点在输入空间是接近的，那个它们的标签是一致的。 （2）低密度假设 （3）流型假设 2. 半监督学习的方法 2.1 Inductive 方法 Inductive方法构造一个分类器，并用于对每个样本进行预测。无标签样
semi-supervised learning
bluenight专栏
06-11 9272
半监督学习已经兴起七八年了吧，但在中国还是刚刚起步罢。 一、Introduction to semi-supervised learning    What is semi-supervised learning and transductive learning?  Why can we ever learn a classifier from unlabeled data?  Does unlabeled data always help?  Which semi-supervised learni
A Survey on semi-supervised feature selection methods
qq_33302567的博客
06-24 712
特征选择方法可以分为3类： filter, wrapper and embedded 过滤器，包装和嵌入式 Filter methods Wrapper methods Embedded methods 根据类标注信息分为3类： supervised feature selection, unsupervised feature selection and semi-su...
读《A survey on semi-supervised learning》（一）
Ritannn的博客
10-07 1014
摘要 半监督学习是机器学习的一个分支，涉及使用有标记和无标记的数据来执行某些学习任务。它在概念上介于监督学习和非监督学习之间，允许在许多用例中利用大量未标记的数据，并通常结合较小的标记数据集。近年来，该领域的研究遵循了机器学习的一般趋势，重点关注基于神经网络的模型和生成学习。关于这一主题的文献在数量和范围上也有所扩大，现在包括了广泛的理论、算法和应用。然而，最近没有收集和组织这些知识的调查，阻碍了研究人员和工程师利用这些知识的能力。为了填补这一空白，我们提出了半监督学习方法的最新概述，包括早期工作以及最新
Semi-supervised Learning
travischan的博客
11-30 777
简单聊一下Semi-supervised Learning(SSL)分类时, 两个可用的方法: self-training与active learning.
半监督学习（semi-supervised learning）
n不正
04-15 5688
半监督学习（semi-supervised learning）1 introduction why semi-supervised learning? 收集数据很贵，收集有标签的数据更贵！ superviesd：D={(xi,yi)}Ni=1D = \{ (x_i,y_i)\}_{i = 1}^N semi-supervised：D={(xi,yi)}Mi=1∪{xu}Nj=M+1D
机器学习 -- Semi-supervised Learning
01-30
Semi-supervised Learning Introduction Why semi-supervised learning helps? Semi-supervised Learning for Generative Model Low-density Separation Assumption Smoothness Assumption Better Representation
一文速通半监督学习(Semi-supervised Learning)：桥接有标签与无标签数据
最新发布
定期分享我的发现和想法，感谢你的陪伴和支持
03-18 6792
论文看到哪学到哪 ^ - ^在机器学习的世界里，我们通常遇到这样一个现实问题：标注数据（有标签的数据）往往昂贵且难以获得，而未标注数据（无标签的数据）却大量存在，易于收集。假设你正在尝试教会计算机区分猫和狗的照片，但只有少数照片是打上了“猫”或“狗”的标签，大部分照片都没有标签。这时候，半监督学习就闪亮登场了，它是一种使用大量未标注数据和少量标注数据进行学习的方法，旨在提高学习效率和准确性。
国外人工智能界牛人主页
weixin_33922672的博客
03-10 248
国外人工智能界牛人主页  http://people.cs.uchicago.edu/~niyogi/ http://www.cs.uchicago.edu/people/ http://pages.cs.wisc.edu/~jerryzhu/ http://www.kyb.tuebingen.mpg.de/~chapelle http://people.cs.uchicago.ed...
Semi-supervised Learning ;半监督学习
丁磊_ml的博客
04-02 6878
1. 进入半监督学习 2. 半监督学习 出现的原因？？？ 原因：收集样本数据容易，但是给每个样本打标签 成本就很高。 Collecting data is easy, but collecting “labelled” data is expensive. 3. 本篇博客讲解的半监督学习的内容？ 3.1 Semi-supervised Learning for Gene...
A brief introduction to weakly supervised learning（简要介绍弱监督学习）
weixin_30474613的博客
03-14 1236
by 南大周志华 摘要 监督学习技术通过学习大量训练数据来构建预测模型，其中每个训练样本都有其对应的真值输出。尽管现有的技术已经取得了巨大的成功，但值得注意的是，由于数据标注过程的高成本，很多任务很难获得如全部真值标签这样的强监督信息。因此，能够使用弱监督的机器学习技术是可取的。本文综述了弱监督学习的一些研究进展，主要关注三种弱监督类型：不完全监督，即只有一部分样本有标签；不确切监督...
课程笔记——Semi-supervised半监督学习
mintminty的博客
06-21 5709
1.半监督学习 1.1 定义 监督学习样本数据 例如：图片+标签 半监督学习样本数据 例如：R个图片+标签，U个图片，通常U >> R。分类：transductive learning、inductive learning 直推式学习(transductive learning)：将无标签数据作为测试数据。该做法不算是欺骗（当应用label才算欺骗，该做法仅应用feature） 归纳...
机器学习大牛及其主页
bookwormno1的专栏
09-22 1827
1.  International Scholars： nTom Mitchell: http://www.cs.cmu.edu/~tom/ nMichael Jordan: http://www.cs.berkeley.edu/~jordan/nGeoffrey Hint
temporal ensembling for semi-supervised learning
06-28
### 回答1： Temporal Ensembling是一种半监督学习方法，它使用了时间上的一致性来提高模型的性能。该方法通过对未标记数据进行预测，并将预测结果与之前的预测结果进行平均，从而获得更加稳定和准确的预测结果。同时，该方法还使用了一个噪声注入技术来增加模型的鲁棒性。该方法已经在图像分类、语音识别等领域取得了很好的效果。 ### 回答2： Temporal Ensembling是一种半监督学习方法。它主要通过使用同一批数据的多个副本，在单批数据上进行迭代学习来提高预测模型的准确性。这种方法能够很好地利用已有数据中的潜在信息，同时也能避免因缺乏大量标注数据而损失准确性的问题。 Temporal Ensembling的核心思想是使用模型的历史预测结果来生成新的虚拟标签。在训练期间，模型不断地更新，同时不断生成新的“标注”，并将这些新的“标注”与原始标注数据一起训练。这样，模型可以从大量带有“标注”的数据中学习并逐渐提高其准确性。 Temporal Ensembling方法在许多学习任务中都展现出优良的性能，比如图像分类、物体识别、图像分割、语音识别等。其中，与其他半监督学习方法相比，Temporal Ensembling在半监督图像分类中的性能最为出色。 尽管Temporal Ensembling的性能非常出色，但是其中的一些问题仍需要解决。 首先，这种方法需要大量的GPU计算力和存储空间，并且需要复杂的算法设计。其次，由于该方法是基于生成虚拟标签的，因此，如果模型在未来预测错误而不正确地生成了虚拟标签，那么可能会产生负面影响。 总之，Temporal Ensembling是一种有效的半监督学习方法，其取得的结果显示出高水平的准确性。与其他方法相比，Temporal Ensembling具有更好的稳健性及效能。也因此，它在深度学习领域中被广泛应用。 ### 回答3： Temporal Ensembling是一种半监督学习技术，可以用于训练深度神经网络。该技术旨在利用未标记的数据来改善模型的泛化能力。在传统的监督学习中，我们需要分类器预测每个样本的标签，并将其与真实标签进行比较以计算损失函数。然而，在许多现实世界的场景中，标记数据的数量通常是有限的，这使得监督学习变得更加困难和昂贵。相反，在半监督学习中，我们将未标记的数据与标记数据结合在一起进行训练。 Temporal Ensembling的实现是基于一个假设，即相似的输入应该具有相似的潜在表示形式。具体来说，该技术通过在连续训练周期中收集了单次训练中的模型预测，通过将这些预测结果整合成一个移动平均版本来构建模型共识。这可以看作是把模型的预测提供给下一个周期的训练，让模型逐渐整合起来，在连续的训练周期中收集了对训练数据更准确的表示。在训练过程中，我们不仅使用真实标签来计算损失函数，还将平均预测意味着的交叉熵添加到损失函数中。这使得模型学习时能够尽可能地匹配模型共识中的数据。 虽然在许多情况下，半监督学习可以增加模型学习任务的效果，但它依赖于许多因素，包括未标记样本的数量、分布和标记样本之间的相似性。使用Temporal Ensembling时，需要做好降噪处理，适当选择数据能够真正提高该技术效果。此外，需要注意的是，Temporal Ensembling只能在没有过度拟合数据集时才能有效，因为此技术基于模型共识构建。在实际应用中，可以将Temporal Ensembling与其他半监督学习技术结合使用，以提高模型性能。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值