极端多标签分类技术新突破

最新推荐文章于 2025-12-22 16:54:08 发布
原创 最新推荐文章于 2025-12-22 16:54:08 发布 · 432 阅读 · 5 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#分类 #数据挖掘 #人工智能 #机器学习 #自然语言处理 #神经网络 #程序那些事

极端多标签分类技术的新突破

在神经信息处理系统大会（NeurIPS）上发表的两篇论文，研究了将同一标签分配给多个类别的方法，以及基于Transformer模型的快速训练技术。

研究背景

近年来，已发表多篇关于极端多标签分类（XMC）的论文，即在候选标签数量极大时对输入数据进行分类。今年初，某中心公开了自研XMC框架PECOS的代码，该框架通过标签分区提高效率：首先将标签分组为簇，训练匹配模型将输入分配给簇，然后训练排序器从指定组中选择单个标签。

标签解纠缠方法

在基于分区的极端多标签分类中，考虑同一标签属于多个簇的情况（例如"苹果"可能同时属于计算设备簇和水果簇）。提出一种将标签分配给多个簇的方法，在效率影响可忽略的情况下提高分类准确率。

技术实现

  • 使用分层树结构进行标签聚类，从粗粒度到细粒度逐步细分
  • 通过监督方式从数据中学习分层树结构
  • 将簇分配作为优化问题，限制每个标签可分配的簇数量（1-6个）
  • 基于TF-IDF创建临时分层树，训练匹配器后重新分配标签以最大化准确率

实验结果显示，在四个数据集的六项指标上，该方法在21项中取得最高分，两项获得第二名。

多分辨率Transformer微调

提出XR-Transformer方法，结合递归线性匹配和基于Transformer的匹配技术。在Amazon-3M数据集上，训练时间从23天（8个GPU）减少到29小时，且准确率显著提升。

训练流程

  1. 基于TF-IDF特征构建分层标签树
  2. 为每层树联合训练基于Transformer的编码器和线性排序器
  3. 使用Transformer嵌入和TF-IDF特征作为输入分配到下一层簇
  4. 训练完成后拼接最终标签嵌入与TF-IDF特征，生成新标签树
  5. 使用拼接特征为每层训练新的线性排序器

在六个公共数据集上的测试表明，在标签数超过50万的三个数据集中，XR-Transformer在所有指标上均显著领先。

技术影响

这些突破极大提升了极端多标签分类的效率与准确性，为处理百万级标签场景提供了实用解决方案，在信息检索和文本分类领域具有重要应用价值。
更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）或者 我的个人博客 https://blog.qife122.com/
公众号二维码
外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传

codeshare1135
关注
YOLOv8【第八章：特殊场景检测篇·第5节】一文搞懂，小目标检测专项技术突破！
**My Coding Family**
12-12 1230
🏆 本文收录于 《YOLOv8实战：从入门到深度优化》 专栏。该专栏系统复现并梳理全网各类 YOLOv8 改进与实战案例（当前已覆盖分类 / 检测 / 分割 / 追踪 / 关键点 / OBB 检测等方向），坚持持续更新 + 深度解析，质量分长期稳定在 97 分以上，可视为当前市面上 覆盖较全、更新较快、实战导向极强 的 YOLO 改进系列内容之一。
AI新突破：多标签预测技术助力语言模型提速3倍
math_bearrr的博客
05-05 1667
1. 实验的设计方法本研究提出了一种多标记预测（multi-token prediction）的训练方法，旨在提高大型语言模型（LLMs）的样本效率。在传统的下一标记预测（next-token prediction）任务中，模型在每个训练步骤只预测一个未来的标记。与此相对，多标记预测任务要求模型在每个位置同时预测未来的多个标记。这种方法通过在共享模型主干（shared model trunk）的基础上操作，使用多个独立的输出头（output heads）来预测接下来的n个标记。
中国天文大模型创新：FALCO时域光变、天一大模型与多模态突破
热门推荐
Liudef06的博客
09-09 12万+
中国天文大模型取得重要突破，FALCO时域光变模型、天一大模型等创新成果引领"AI+天文"研究新范式。FALCO模型基于Transformer架构，针对天文光变曲线数据特点进行优化设计，采用自监督学习在开普勒望远镜20万条数据上预训练，能高效分析恒星脉动、系外行星等时域天文现象。天一大模型等则专注于光谱分析等多模态任务，为处理郭守敬望远镜等产生的海量天文数据提供智能解决方案。这些创新模型推动天文研究从传统方法向AI驱动转型，为应对天文大数据挑战提供关键技术支撑。
层次多标签文本分类介绍
u013250861的博客
11-08 2860
与多标签分类类似，给定一个文档样本可以有一个或者多个类标签与之对应，不同的是，这些标签是以层次结构存储的，层次结构中低的标签受到层级较高的标签的约束，层次结构在带来类标签之间层次关系的同时，也带来了计算复杂等更具有挑战性的特点。
机器人前沿技术：引领智能安防新变革
AI天才研究院
05-25 1349
本文章旨在深入探讨机器人前沿技术在智能安防领域所引发的变革。随着科技的飞速发展，机器人技术不断取得突破，其在安防领域的应用也日益广泛。我们将研究范围聚焦于各类机器人前沿技术，如人工智能、传感器技术、自主导航技术等在智能安防系统中的应用，分析这些技术如何提升安防的效率、准确性和智能化水平，为安防行业带来新的发展机遇和挑战。本文将按照以下结构展开：首先介绍核心概念与联系，明确机器人前沿技术和智能安防的相关概念以及它们之间的相互关系；接着详细阐述核心算法原理和具体操作步骤，通过Python代码进行示例；
第4章 文本分类
面向AI从业者、技术爱好者的知识共享平台，聚焦技术解析、实战应用与前沿趋势，打造“专业性与可读性并存”的AI学习社区
04-16 7万+
自然语言处理中的一项常见任务是分类任务。该任务的目标是训练模型为输入文本分配一个标签或类别（见图4-1）。文本分类在全球范围内广泛应用于多种场景，包括情感分析、意图检测、实体抽取和语言检测等领域。无论是表示型语言模型（如BERT）还是生成型语言模型（如GPT），它们对分类任务的影响均不可忽视。在本章中，我们将探讨利用语言模型进行文本分类的多种方法。作为使用预训练语言模型的入门指引，我们将呈现这个领域的全景视图。鉴于文本分类的广泛性，我们将通过多种技术方案深入。
【读点论文】Asymmetric Loss For Multi-Label Classification不对称损失，改进版的focal loss，分类处理难易样本
白水空空
04-20 1081
本文提出了一种用于多标签分类的非对称损失(ASL)。ASL包含两个互补的不对称机制，它们对阳性和阴性样本的作用不同。通过检查ASL衍生工具，我们对损失属性有了更深的理解。**通过网络概率分析，我们证明了ASL在平衡正负样本方面的有效性，并提出了一种自适应方案，可以在整个训练过程中动态调整不对称水平**。大量的实验分析表明，在包括MS-COCO、Pascal-VOC、NUSWIDE和Open Images在内的流行的多标签分类基准上，ASL优于常见的损失函数和先前的最新方法。ASL 通过不对称聚正负不平衡与负
突破地理空间AI瓶颈：AlphaEarth Foundations如何用稀疏标签实现高精度全球制图
此星光明博客
08-24 1216
AlphaEarth Foundations（AEF）突破性地解决了地理空间AI面临的数据洪流与标签稀缺矛盾。通过构建时空连续的64维嵌入场，AEF仅需64字节就能表征地表属性，在10米分辨率下将15项地理空间任务的误差平均降低23.9%。其核心创新包括时空感知嵌入场模型、多分辨率并行STP编码器，以及融合对比学习与文本对齐的三重训练机制。评估显示，AEF在39类树种分类等任务中显著优于现有方法，且支持零样本迁移。该技术已生成2017-2024年全球10米分辨率嵌入场，通过Google Earth Engi
多模态大型语言模型（MLLM）综述
数据与算法架构提升之路专栏
11-25 1147
多模态大型语言模型（MLLMs）通过结合视觉和文本信息，推动了图像标注、视觉问答、视觉叙事等领域的发展，并在跨模态检索和搜索中展现出巨大潜力，同时也引发了对偏见和伦理的考量。
基于标签语义强化的极端多标签文本分类指导网络GUDN
与传统的多标签分类任务不同，XMTC通常涉及数万甚至数十万个潜在标签，例如在维基百科文章标注、电子商务产品推荐、搜索引擎关键词匹配等实际应用场景中广泛存在。面对如此高维度的输出空间，模型不仅要保证预测的...
MUFIN:多模态极端分类技术在千万级产品推荐中的革新应用
多模态极端分类技术MUFIN是一种创新的方法，专为大规模多模态数据集设计，尤其适用于那些涉及数百万个标签的复杂分类任务。该技术由印度理工学院德里分校的研究团队开发，包括Anshul Mittal、Kunal Dahiya、Shreya ...
深度学习驱动人脸识别技术：最新突破与实战应用
人脸识别技术作为一种重要的生物识别技术，已经广泛应用于身份验证、安全监控、智能交互等多个领域。它通过分析和处理人脸的图像数据，自动检测人脸并提取关键特征，从而实现个体的身份识别。 人脸识别流程通常包括...
机械紧固件智能识别系统 _ 基于YOLOv10n的螺栓螺母螺丝垫圈自动检测与分类
OOOaaa123123的博客
12-20 569
摘要：本文提出基于YOLOv10n的机械紧固件智能识别系统，实现螺栓、螺母、螺丝、垫圈等工业零件的自动检测与分类。系统采用两阶段训练策略，在自建5000张图像的数据集上达到94.5%的mAP@0.5精度，推理速度8.2ms/帧。通过优化图像采集、数据增强和模型轻量化设计，解决了工业场景中小目标检测难题。系统包含图像采集、实时检测、结果可视化等功能模块，支持30fps实时处理，模型体积仅5.4MB，适用于嵌入式部署，显著提升了制造业质检效率和准确性。（149字）
【深度学习】Mask R-CNN在温室番茄成熟度检测中的应用——基于ResNet18与FPN的多级特征融合分类系统
Lun3866buzha的博客
12-18 697
本文提出了一种基于改进Mask R-CNN的温室番茄成熟度检测系统，通过结合ResNet18骨干网络和FPN多级特征融合技术，实现了对不同成熟度番茄的高精度识别。系统采用5000张标注图像进行训练，通过数据增强提高模型鲁棒性，最终在测试集上达到92.3%的准确率和89.7%的mAP。实际部署采用边缘计算设备，处理速度达20FPS，显著提升了番茄采摘效率。实验表明，该系统在复杂光照条件下表现稳定，为智能农业提供了有效的技术解决方案。
TensorFlow 2.0 手写数字分类教程
servepeople的博客
12-19 957
本文详细介绍了使用TensorFlow 2.0和Keras构建全连接神经网络对MNIST手写数字进行分类的完整流程。主要内容包括：数据加载与归一化处理、模型构建（含Flatten、Dense和Dropout层）、损失函数选择（SparseCategoricalCrossentropy）、模型训练与评估。教程通过代码逐行解释和可视化展示，帮助初学者理解核心概念，最终实现约98%的分类准确率。同时解答了常见问题，并建议通过CNN进一步提升性能。该教程为深度学习入门提供了清晰的实践指导。
基于DETR的血细胞显微图像检测与分类方法研究【原创】_1
2501_94132972的博客
12-18 724
本文提出了一种基于DETR的血细胞显微图像检测与分类方法。DETR模型结合Transformer架构和端到端训练方式，无需复杂后处理即可实现血细胞精准定位与分类。研究针对血细胞图像特点（形态多样、重叠严重等）优化了模型架构，采用ResNet-50作为主干网络，配合6层Transformer编码器和解码器。实验表明，该方法在公开数据集上达到92.5%的mAP，优于传统检测模型，且具有25FPS的实时处理能力。该方法已成功应用于临床检测，显著提升了血细胞分析效率。未来将探索更强大的网络架构和轻量化部署方案，以进
TensorFlow 2.0 手写数字分类教程之SparseCategoricalCrossentropy 核心原理(二)
最新发布
servepeople的博客
12-22 433
摘要：tf.keras.losses.SparseCategoricalCrossentropy是用于单标签多分类任务的损失函数，其特点是直接使用整数标签（如0/1/2）而无需转为one-hot编码，节省内存且操作简便。该函数通过评估正确类别的预测置信度来打分：置信度越高损失值越低。关键参数from_logits建议设为True以处理原始模型输出。与CategoricalCrossentropy的主要区别在于标签格式要求，前者适用于整数标签，后者需要one-hot编码。使用时需注意标签取值范围和单标签限制。
YOLOv5-ASF-P2：果蝇性别识别与分类实战指南_1
adaAS1414315的博客
12-17 682
本文介绍了基于改进YOLOv5架构的果蝇性别识别系统YOLOv5-ASF-P2。该系统通过优化的CSPDarknet骨干网络和增强型PANet，显著提升了对果蝇小目标的特征提取能力。项目采用包含10,000张标注图像的数据集，通过随机翻转、旋转和亮度调整等数据增强方法提高模型泛化性。系统采用多任务损失函数，整合分类、定位和性别识别任务，实现了高精度果蝇性别分类。实验结果表明，该方法的识别准确率较基线模型提升8.5%，为生物学研究提供了高效可靠的自动化性别识别解决方案。
YOLO11-ReCalibrationFPN-P345实现酒液品牌识别与分类_1
adaAS1414315的博客
12-17 712
本文提出了一种基于改进YOLOv11架构的酒液品牌识别系统YOLO11-ReCalibrationFPN-P345。该系统通过引入ReCalibration机制和优化特征金字塔网络，显著提升了小目标检测能力，在酒液品牌识别任务中达到90.3%的mAP准确率。文章详细介绍了模型架构、数据集构建、训练优化策略以及实时系统部署方案。实验结果表明，该系统在不同光照条件下均保持良好性能，可广泛应用于零售库存管理、防伪验证等场景。未来将进一步扩展多品类识别、价格识别等功能，为零售行业提供更完整的智能化解决方案。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值