探索多任务学习的新维度：Cross-stitch Networks

最新推荐文章于 2024-11-26 00:47:56 发布
最新推荐文章于 2024-11-26 00:47:56 发布
阅读量508 收藏 4
点赞数 5
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/gitblog_00095/article/details/139895284

探索多任务学习的新维度：Cross-stitch Networks

Cross-stitch-Networks-for-Multi-task-LearningA Tensorflow implementation of the paper arXiv:1604.03539项目地址:https://gitcode.com/gh_mirrors/cr/Cross-stitch-Networks-for-Multi-task-Learning

在人工智能领域中，多任务学习是一种强大的工具，它允许模型同时处理多个相关任务，从而提升效率和性能。今天，我们向您隆重推荐一个由TensorFlow实现的开源项目——Cross-stitch Networks for Multi-task Learning。这个项目基于论文《Cross-stitch Networks for Multi-task Learning》，旨在利用交叉缝合网络结构优化多任务学习的性能。

项目介绍

该项目的核心是引入了一种名为“交叉缝合”（Cross-stitch）的神经网络层，用于在不同任务之间建立线性组合关系，而不是简单地并行运行独立的任务分支。通过这种动态的权重共享方式，模型可以自动学习不同任务之间的关联性，以提高整体性能。在这个实现中，开发者选择了时尚MNIST数据集作为示例，该数据集包含了10类衣物图片，以及为每个图像额外分配的与任务相关的标签。

项目技术分析

  • 没有任务共享的网络：作为一个基础模型，项目首先构建了一个不包含交叉缝合的网络，两个任务的CNN分支并行工作，但参数不共享。
  • 带交叉缝合的网络：在此基础上，添加了交叉缝合层，它在池化层和全连接层之后插入，允许模型自我调整任务间的相互作用。

论文中的实验结果显示，使用交叉缝合网络结构能显著提高准确率，并且在训练过程中，损失函数下降得更加平稳。

应用场景

这个框架不仅限于时尚MNIST数据集，还可以扩展到其他涉及多任务的学习问题，如年龄性别识别、语义分割等。在高度相关的任务中，如时尚MNIST的分类，以及在独立的任务之间（如使用VGGFace2数据集进行人脸识别），交叉缝合都能提升模型的表现。

项目特点

  1. 灵活性：项目设计允许轻松地扩展到更多的任务，适应不同的数据集。
  2. 端到端学习：模型通过端到端的方式自我学习任务间的交互，无需手动调整共享网络架构。
  3. 高效优化：结合L2正则化、Dropout、批归一化等技术，模型在较少的迭代次数内达到稳定状态。
  4. 直观可视化：项目提供了训练过程中的准确性曲线和总损失图，帮助理解模型行为。

如果您正在寻找一种方法来改善您的多任务学习项目或对多任务学习有新的探索想法，那么这个开源项目绝对值得尝试。现在就加入这个社区，开始您的多任务学习之旅吧！

Cross-stitch-Networks-for-Multi-task-LearningA Tensorflow implementation of the paper arXiv:1604.03539项目地址:https://gitcode.com/gh_mirrors/cr/Cross-stitch-Networks-for-Multi-task-Learning

创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考

自然语言处理之文本生成：Long Short-Term Memory Networks (LSTM)：LSTM单元详解
zhubeibei168的博客
05-22 548
LSTM单元通过输入门、遗忘门和输出门的计算，有效地控制了信息的流入、遗忘和输出，从而解决了传统RNN在处理长序列数据时的梯度消失和梯度爆炸问题。在实际应用中，这些门的计算和单元状态的更新是LSTM网络的核心部分，通过调整权重矩阵和偏置项，LSTM能够学习到序列数据中的长期依赖关系。
[译]深度神经网络的多任务学习概览(An Overview of Multi-task Learning in Deep Neural Networks)
大西瓜不甜的博客
03-18 662
译自：http://sebastianruder.com/multi-task/ 1. 前言 在机器学习中，我们通常关心优化某一特定指标，不管这个指标是一个标准值，还是企业KPI。为了达到这个目标，我们训练单一模型或多个模型集合来完成指定得任务。然后，我们通过精细调参，来改进模型直至性能不再提升。尽管这样做可以针对一个任务得到一个可接受得性能，但是我们可能忽略了一些信息，这些信息有助于在...
极简笔记 Cross-stitch Networks for Multi-task Learning
Hibercraft的博客
04-19 4404
极简笔记 Cross-stitch Networks for Multi-task Learning 论文地址: https://arxiv.org/abs/1604.03539 本篇文章研究的问题是不同层级的网络权值共享对multi-task learning的影响，同时在此基础上提出Cross-stitch units（十字绣单元），以实现自动学习最优网络共享结构。 首先，本篇文章在...
Cross-stitch Networks for Multi-task Learning
dawnyi_yang的博客
01-23 2995
摘要 对于使用多任务学习模型来学习不同的任务时，每个任务最适合的共享层数不完全一样。因此针对不同的多任务学习，我们需要根据任务需求设计不同的共享层。故文章提出了一种称为“十字绣”单元的共享单元，使用多任务学习来学习卷积网络中的共享表示，通过端对端的学习来自动决定共享层。 方法 文章提出了十字绣单元，主要用于卷积网络，该单元主要是试图找到用于多任务学习的最好的共享表示。为了限制文章范围，故此处只讨论相同单一输入的任务，如输入一张图片。 考虑一个输入同一张图像、有A和B两个任务，和两个单独训练的网络，然后使用十
多任务——Cross-stitch
小花生的博客
08-02 2407
《Cross-stitch Networks for Multi-task Learning》2016 要解决的问题：多任务的网络结构没有普遍性 创新点：以往的多任务网络结构都是人为设计，从哪层分离，哪层结合，并且需要大量的实验才能验证网络结构的有效性。作者提出了一种使用多任务方式来学习ConvNets中的共享表示的原则性方法。 具体来说，提出了一个新的共享单位：“十字绣”单位。这些单元结...
Paper | Cross-stitch Networks for Multi-task Learning
LVXIAO2897的博客
04-18 382
目录 1. 问题 2. 十字绣结构（Cross-stitch architecture） 3. 实验设计 论文：Cross-stitch Networks for Multi-task Learning Misra, Ishan, et al. "Cross-stitch...
多任务学习概述+Vision Transformer+多模态
qq_45913945的博客
11-22 1513
MTL多任务学习概述+ Vision Transformer+ 多模态学习的一些笔记
Multi-task Learning in LM（多任务学习，PLE，MT-DNN，ERNIE2.0）
nakaizura
03-29 4453
MTDNN 多任务学习 ENRIE1.0，3种mask策略（BPE）预测短语和实体。 ERNIE2.0 连续增量学习。主要贡献是两个： 序列多任务学习的预训练任务机制（sequential multi-task learning），使模型能够学习到词汇，语法，语义信息。不同于持续学习和多任务学习，序列多任务学习在引入新的训练任务时，先利用之前学习到的参数对模型进行初始化，再同时训练新任务和旧任务...
【多任务学习实践】：transformers库多任务学习案例分析与实战指南
多任务学习（Multi-Task Learning，MTL）是机器学习中的一种策略，它通过同时训练一个模型以执行多个学习任务，达到共享知识和提升模型泛化能力的目的。这与传统的学习方式不同，后者通常为每个任务单独训练模型。 ...
Cross-stitch-Networks-for-Multi-task-Learning:本文arXiv的Tensorflow实现
04-29
十字绣网络的多任务学习 该项目是TensorFlow实现的一种多任务学习方法，该方法在论文《。 争论 --lr，学习率 --n_epoch，纪元数 --n_batch_size，最小批处理大小 --reg_lambda，L2正则化lambda --keep_prob，退出保持概率 --cross_stitch_enabled，是否使用十字绣 数据集 时尚MNIST 是Zalando文章图片的数据集，由6万个示例的训练集和10,000个示例的测试集组成。 每个示例都是一个28x28灰度图像，与来自10个类别的标签相关联： 标签 描述 标签 描述 0 T恤/上衣 5 凉鞋 1个 裤子 6 衬衫 2个 套衫 7 运动鞋 3 裙子 8 包 4 外套 9 脚踝靴 为了进行多任务学习，我为每个图像创建了另一个标签，该标签基于原始标签： 标签 原始标签 描述 0 5、7、9
论文笔记讲解：A Modulation Module for Multi-task Learning with Applications
11-21
最新的关于多任务学习，如何消除不相关任务的干涉：一种用于图像检索的多任务学习的调制模块A Modulation Module for Multi-task Learning with Applications in Image Retrieval_ECCV_2018
几篇CVPR关于multi-task的整理
11-02
几篇CVPR关于multi-task的论文笔记整理，包括 一、 多任务课程学习Curriculum Learning of Multiple Tasks 1 --------------^CVPR2015/CVPR2016v--------------- 5 二、 词典对分类器驱动卷积神经网络进行对象检测Dictionary Pair Classifier Driven Convolutional Neural Networks for Object Detection 5 三、 用于同时检测和分割的多尺度贴片聚合（MPA）* Multi-scale Patch Aggregation (MPA) for Simultaneous Detection and Segmentation ∗ 7 四、 通过多任务网络级联实现感知语义分割Instance-aware Semantic Segmentation via Multi-task Network Cascades 10 五、 十字绣网络多任务学习Cross-stitch Networks for Multi-task Learning 15 --------------^CVPR2016/CVPR2017v--------------- 23 六、 多任务相关粒子滤波器用于鲁棒物体跟踪Multi-Task Correlation Particle Filter for Robust Object Tracking 23 七、 多任务网络中的全自适应特征共享与人物属性分类中的应用Fully-Adaptive Feature Sharing in Multi-Task Networks With Applications in Person Attribute Classification 28 八、 超越triplet loss：一个深层次的四重网络，用于人员重新识别Beyond triplet loss: a deep quadruplet network for person re-identification 33 九、 弱监督级联卷积网络Weakly Supervised Cascaded Convolutional Networks 38 十、 从单一图像深度联合雨水检测和去除Deep Joint Rain Detection and Removal from a Single Image 43 十一、 什么可以帮助行人检测？What Can Help Pedestrian Detection? （将额外的特征聚合到基于CNN的行人检测框架） 46 十二、 人员搜索的联合检测和识别特征学习Joint Detection and Identification Feature Learning for Person Search 50 十三、 UberNet：使用多种数据集和有限内存训练用于低，中，高级视觉的通用卷积神经网络UberNet: Training a Universal Convolutional Neural Network for Low-, Mid-, and High-Level Vision using Diverse Datasets and Limited Memory 62 一共13篇，希望能够帮助到大家
Cross-stitch Networks for Multi-task Learning 使用教程
gitblog_00242的博客
09-01 1098
Cross-stitch Networks for Multi-task Learning 使用教程 Cross-stitch-Networks-for-Multi-task-LearningA Tensorflow implementation of the paper arXiv:1604.03539项目地址:https://gitcode.com/gh_mirrors/cr/Cross-s...
Cross-stitch Networks for Multi-task Learning译文_
最新发布
qq_45913945的博客
11-26 1277
Cross-stitch Networks for Multi-task Learning
针对多任务学习的“十字绣网络”
qq_33880788的博客
06-04 2235
多任务学习是机器学习的重要组成部分，但是对于应用深度学习进行多任务学习时会遇到一个棘手的问题，那就是我们该如何确定网络的共享部分。针对不同的任务，其最佳共享层往往不同。 此外，针对不同的多任务学习，我们需要根据任务需求设计不同的共享层，并没有统一的标准。因此，本文针对这一问题设计了“十字绣”单元，通过端对端的学习来自动决定共享层。 论文： Cross-stitch Networks for M...
tensorflow 拼接不同的神经网络结构
梦想闹钟
09-23 2218
最近尝试了将两个网络组合，下面的代码是将cnn和mlp网络进行组合的示例，输入CNN网络的特征维度是n40000，将其转化为n(200200)的维度输入到cnn网络中，卷积过后再和维度为n2500的特征结合，输入到mlp网络里去，最终输出是对应10分类的概率，关键是使用 layers.concatenate将不同网络的输出拼接起来，作为新网络的输入。同时，使用多个网络和多个输入时也需要提前声明多个Input层，以及model里的输入格式models.Model(inputs=[input1, input2]
【DAY9-Cross-Stitch】多任务学习-十字绣模块原理
weixin_55940866的博客
10-05 299
为了说明我们其实不明确知道该共享哪些参数，作者进行了一个实验，实验为2组多任务学习实验，通过共享不同层的模型参数，得到了两组任务在不同的参数共享策略下的性能对比，实验结果说明了不同任务的最佳分割比（共享层和特定任务的表示比例）是不一样的，这取决于手头的任务类型。枚举每一种可能的网络拆分是一种可能的实现，但是这种做法十分笨拙，费时，因此Cross-Stitch建立了一个新的单元，能够自动决定当前任务的最佳共享层，也就是可以使网络自动学习到需要共享的特征。通过将αAB和αBA附上更高的值来提高共享的程度。
自动寻找如何共享特征层的“十字绣”网络：Cross-stitch Networks for Multi-task Learning
qq_24305433的博客
05-26 3955
1、简介多任务学习是机器学习中重要的一部分，关于多任务学习的更多内容可以去看这篇文章。但是对于应用深度学习进行多任务学习会遇到一个棘手的问题，那就是我们该如何确定网络的共享部分。针对不同的任务，其最佳共享层往往存在不同，其中作者针对使用AlexNet网络分别进行图像检测、图像属性生成及图像语义分割、图像平面法向量（Surface Normal）进行多任务学习，针对两个任务，作者分别从fc8层进行共...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

计蕴斯Lowell

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值