Semi-supervised Learning ;半监督学习

最新推荐文章于 2025-06-25 21:15:15 发布
最新推荐文章于 2025-06-25 21:15:15 发布
阅读量6.8k 收藏 16
点赞数
CC 4.0 BY-SA版权
分类专栏： 深度学习--李宏毅 文章标签： Semi-supervised Learning ;半监督学 台湾大学--李宏毅 深度学习deep learning
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/MosBest/article/details/79787288
本文探讨了半监督学习的核心概念及应用场景，分析了为何在数据丰富但标注成本高昂的背景下，该方法变得日益重要。文章重点介绍了四种半监督学习方法：生成式模型、低密度分离、平滑假设以及更好的表示学习。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

1. 进入半监督学习

这里写图片描述

2. 半监督学习 出现的原因？？？

原因：收集样本数据容易，但是给每个样本打标签 成本就很高。
Collecting data is easy, but collecting “labelled” data is expensive.

3. 本篇博客讲解的半监督学习的内容？

这里写图片描述

3.1 Semi-supervised Learning for Generative Model(生成式模型)

这里写图片描述
这里写图片描述

3.2Semi-supervised Learning for Low-density Separation

这里写图片描述
这里写图片描述

3.3 Semi-supervised Learning for Smoothness Assumption

概述

这里写图片描述

How to know ��1 and ��2 are close in a high density region

这里写图片描述

3.4 Semi-supervised Learning for Better Representation

意思是：看似复杂的东西，其实他的本质是 很简单的。所以，找到复杂事物的本质，仅仅对他的本质（简单的）进行处理。

机器学习10 -- 半监督学习 Semi-supervised Learning
谢杨易的博客
09-11 1万+
1 为什么要做半监督学习 有监督机器学习已经在很多领域证明了它的有效性，比如ImageNet图像分类任务，深度学习模型早在2017年，准确率就已经超过了人类。机器学习被认为是一门数据驱动的学科，数据分为两部分，data和label。通常情况下，data是比较容易获取的，而label需要标注，要珍贵很多。比如对于图像分类任务，网络上有成千上万的图片数据，但他们大多数都是没有label标注的。 通常情况下，我们可以进行一小部分数据的标注，形成有监督数据，然后再利用好其他未标注数据。这种方法称为半监督学习。半
Semi-Supervised Learning半监督学习
一个小垃圾的博客
08-17 1382
半监督学习
台大李宏毅Machine Learning 2017Fall学习笔记 (13)Semi-supervised Learning
Allenlzcoder的博客
01-16 652
台大李宏毅Machine Learning 2017Fall学习笔记 (13)Semi-supervised Learning 本博客参考整理自： http://blog.youkuaiyun.com/xzy_thu/article/details/69808817#t8 半监督学习的训练数据，有一部分是标注数据，有一部分是无标注数据。 Transductive learning(直推学习)和Ind
【AI概念】监督学习（Supervised） vs. 无监督学习（Unsupervised） vs. 半监督/自监督学习（Semi/Self-supervised）详解（附详尽Python代码演示）
最新发布
AI人工智能爱酱～你的AI学习好帮手～
06-25 2225
大家好，我是爱酱。本篇将会系统讲解监督学习（Supervised Learning）、无监督学习（Unsupervised Learning）、半监督学习（Semi-supervised Learning）和自监督学习（Self-supervised Learning）的核心定义、原理、典型算法、应用场景与区别联系。每部分都详细展开，适合初学者和进阶者系统理解。 注：本文章含大量数学算式、详细例子说明及大量代码演示，建议先收藏再慢慢观看理解。新频道发展不易，你们的每个赞、收藏跟转发都是我继续分享的动力！
机器学习 李宏毅 L23-Semi-supervised Learning
okgagaga的博客
01-31 549
半监督学习的特点 监督学习存在一系列的 特征x和对应的输出y，而半监督学习存在R组输入和对应的输出，还有U组未标记的数据，一般U>>R。使用testing data的输入，则称为transductive learning；而对于使用testing data，则称为inductive learning。 如何使用unlabelled data？unleabelled data的分布会给出一些信息
李宏毅机器学习——学习笔记（11） Semi-supervised learning
m0_37757740的博客
04-02 358
Introduction （1）除了有标签数据外，还有大量的无标签数据。（远多于标签数据） （2）Transductive learning：直推学习，无标签数据是testing data （3）Inductive Learning：归纳学习，无标签数据不是testing data 为什么要半监督学习？ 收集数据往往是很容易的，但是收集有标签的数据却是很难的； 我们的生活就是半监督学习的过...
李宏毅机器学习2016 第十一讲 半监督学习
Come_for_IT 的博客
01-18 1178
视频链接：李宏毅机器学习(2016)(11)_演讲•公开课_科技_bilibili_哔哩哔哩课程资源：Hung-yi Lee课程相关PPT已经打包命名好了：链接：https://pan.baidu.com/s/1c3Jyh6S 密码：77u5我的第十讲笔记：李宏毅机器学习2016 第十讲 为什么是“深度”学习Semi-supervised Learning本章主要讲述了半监督学习的原理及实现方法。
Semi-Supervised-Transfer-Learning:半监督转移学习的自适应一致性正则化（CVPR 2021）
03-06
在这项工作中，我们考虑半监督学习和转移学习的结合，从而导致一种更实用和更具竞争力的范例，该范例可以利用源域中强大的预训练模型以及目标域中的带标签/未带标签的数据。 为了更好地利用预训练权重和未标记目标...
Graph-Based Semi-Supervised Learning
01-09
In order to adapt to this phenomenon, several semi-supervised learning (SSL) algorithms, which learn from labeled as well as unlabeled data, have been developed. In a separate line of work, ...
semi-supervised-learning半监督学习详细介绍PPT——共61页
12-12
半监督学习（Semi-supervised Learning，SSL）是机器学习领域中的一个重要分支，介于监督学习和无监督学习之间。它的主要思想是使用小量的标记数据和大量的无标记数据来训练模型，从而提高模型的泛化能力和分类性能...
nips14-ssl:NIPS 2014 论文“Semi-Supervised Learning with Deep Generative Models”结果复现代码
06-28
使用深度生成模型重现我们的 NIPS 2014 论文关于半监督学习 (SSL) 的一些关键结果的代码。 DP Kingma、DJ Rezende、S. Mohamed、M. Welling 具有深度生成模型的半监督学习神经信息处理系统的进展 27 ( NIPS 2014 )...
Python-Tensorflow中的半监督学习GAN
08-11
半监督学习生成对抗网络的Tensorflow实现
文档主题的半监督分类问题-pyhon-机器学习
03-18
打开网站链接http://archive.ics.uci.edu/ml/，点击链接 view all data sets，打开所有数据页面，点击Instances，按照研究实例由多到少排序，我们小组选择了“Bag of Words Data Set”单词袋子的形式文本数据集。 本次作业解决问题具体化为：文档主题的半监督分类问题。 二、数据分析 （一）认识数据 数据集描述：对于每个文本数据集，D文档的数量，W是文档字典集中单词数量，N是数据中所有单词数量（NNZ为非零数据的数量），在分词器、去无用词之后，去重字典。 Bag of Words Data Set数据集网站提供了两个，这里我们选择数量较小的一组“mini_newsgroups”，该数据共包括20个分类，其中每个类包括100个文档，共包括2000个文档。
一文看懂半监督学习(Semi-supervised Learning)和自监督学习(Self-Supervised Learning)
热门推荐
qq_44015059的博客
05-30 8万+
1. 机器学习学习任务 1.1 监督学习 根据输入-输出样本对L={(x1,y1),⋅⋅⋅,(xl,yl)}L=\{(x1,y1),···,(xl,yl)\}L={(x1,y1),⋅⋅⋅,(xl,yl)}学习输入到输出的映射f:X−>Yf:X->Yf:X−>Y,来预测测试样例的输出值。SL包括分类(Classification)和回归(Regression)两类任务，分类中的样例xi∈Rmx_i∈R^mxi​∈Rm(输入空间)，类标签yi∈{c1,c2,⋅⋅⋅,cc}y_i∈\{c_1,c
Temporal Ensembling for Semi-Supervised Learning 教程
gitblog_00883的博客
09-12 307
Temporal Ensembling for Semi-Supervised Learning 教程 项目简介 Temporal Ensembling是由S. Laine和A. Aila提出的半监督学习方法，实现于此GitHub仓库。本教程旨在指导用户了解并使用这一开源项目，以提升在有限标注数据集上的模型性能。 1. 项目的目录结构及介绍 tempens/ │ ├── docs/ ...
半监督学习（semi-supervised learning）
n不正
04-15 5687
半监督学习（semi-supervised learning）1 introduction why semi-supervised learning? 收集数据很贵，收集有标签的数据更贵！ superviesd：D={(xi,yi)}Ni=1D = \{ (x_i,y_i)\}_{i = 1}^N semi-supervised：D={(xi,yi)}Mi=1∪{xu}Nj=M+1D
手把手教你用GAN实现半监督学习
Double_V的博客
11-14 4万+
引言 本文主要介绍如何在tensorflow上仅使用200个带标签的mnist图像，实现在一万张测试图片上99%的测试精度，原理在于使用GAN做半监督学习。前文主要介绍一些原理部分，后文详细介绍代码及其实现原理。前文介绍比较简单，有基础的同学请掠过直接看第二部分，文章末尾给出了代码GitHub链接。对GAN不了解的同学可以查看微信公众号：机器学习算法全栈工程师 的GAN入门文章。 本博客中的代...
机器学习（三）半监督学习（Semi-supervised Learning）
goodluckcwl的专栏
03-07 1985
问题： 有训练样本DL={(x1,y1),(x2,y2),...,(xl,yl)}D_L = \{(x_1, y_1), (x_2, y_2),...,(x_l, y_l)\} 与未标记样本DU={xx+1,xx+2,...,xl+u}D_U=\{x_{x+1}, x_{x+2},...,x_{l+u} \} 要求： 用DLUDUD_LU D_U 训练分类器方法： 在DLD_L 上训练分类器
temporal ensembling for semi-supervised learning
06-28
### 回答1： Temporal Ensembling是一种半监督学习方法，它使用了时间上的一致性来提高模型的性能。该方法通过对未标记数据进行预测，并将预测结果与之前的预测结果进行平均，从而获得更加稳定和准确的预测结果。同时，该方法还使用了一个噪声注入技术来增加模型的鲁棒性。该方法已经在图像分类、语音识别等领域取得了很好的效果。 ### 回答2： Temporal Ensembling是一种半监督学习方法。它主要通过使用同一批数据的多个副本，在单批数据上进行迭代学习来提高预测模型的准确性。这种方法能够很好地利用已有数据中的潜在信息，同时也能避免因缺乏大量标注数据而损失准确性的问题。 Temporal Ensembling的核心思想是使用模型的历史预测结果来生成新的虚拟标签。在训练期间，模型不断地更新，同时不断生成新的“标注”，并将这些新的“标注”与原始标注数据一起训练。这样，模型可以从大量带有“标注”的数据中学习并逐渐提高其准确性。 Temporal Ensembling方法在许多学习任务中都展现出优良的性能，比如图像分类、物体识别、图像分割、语音识别等。其中，与其他半监督学习方法相比，Temporal Ensembling在半监督图像分类中的性能最为出色。 尽管Temporal Ensembling的性能非常出色，但是其中的一些问题仍需要解决。 首先，这种方法需要大量的GPU计算力和存储空间，并且需要复杂的算法设计。其次，由于该方法是基于生成虚拟标签的，因此，如果模型在未来预测错误而不正确地生成了虚拟标签，那么可能会产生负面影响。 总之，Temporal Ensembling是一种有效的半监督学习方法，其取得的结果显示出高水平的准确性。与其他方法相比，Temporal Ensembling具有更好的稳健性及效能。也因此，它在深度学习领域中被广泛应用。 ### 回答3： Temporal Ensembling是一种半监督学习技术，可以用于训练深度神经网络。该技术旨在利用未标记的数据来改善模型的泛化能力。在传统的监督学习中，我们需要分类器预测每个样本的标签，并将其与真实标签进行比较以计算损失函数。然而，在许多现实世界的场景中，标记数据的数量通常是有限的，这使得监督学习变得更加困难和昂贵。相反，在半监督学习中，我们将未标记的数据与标记数据结合在一起进行训练。 Temporal Ensembling的实现是基于一个假设，即相似的输入应该具有相似的潜在表示形式。具体来说，该技术通过在连续训练周期中收集了单次训练中的模型预测，通过将这些预测结果整合成一个移动平均版本来构建模型共识。这可以看作是把模型的预测提供给下一个周期的训练，让模型逐渐整合起来，在连续的训练周期中收集了对训练数据更准确的表示。在训练过程中，我们不仅使用真实标签来计算损失函数，还将平均预测意味着的交叉熵添加到损失函数中。这使得模型学习时能够尽可能地匹配模型共识中的数据。 虽然在许多情况下，半监督学习可以增加模型学习任务的效果，但它依赖于许多因素，包括未标记样本的数量、分布和标记样本之间的相似性。使用Temporal Ensembling时，需要做好降噪处理，适当选择数据能够真正提高该技术效果。此外，需要注意的是，Temporal Ensembling只能在没有过度拟合数据集时才能有效，因为此技术基于模型共识构建。在实际应用中，可以将Temporal Ensembling与其他半监督学习技术结合使用，以提高模型性能。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值