多分类可以分成多个独立的模型来训练

最新推荐文章于 2025-05-27 10:59:10 发布
原创 最新推荐文章于 2025-05-27 10:59:10 发布 · 2.4k 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

面对1000种分类挑战，先构建通用模型处理所有类别。针对特定混淆类（如蘑菇），通过增强数据集与随机图像训练50个专门模型，显著提升分类准确性。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

比如说分类类别有1000种，先基于所有数据训练一个一般的网络模型，可以处理所有这些类；然而发现有些混淆的类，在算法上 跟蘑菇极其相似，无法通过这个一般的模型来判断；所以需要做一些专门的训练，丰富了蘑菇的数据集与偶尔的随机图像；我们可以训练50个这样的模型，可以达到良好的不同种类的分类，得到相当显著的正确率增加；当时我们可以很好的将它提炼成一个单一的模型，但我们没有过分追求，最终我们只是机制上训练50个独立的模型，然后再对他们进行提炼；（上面的话来自于jeff dean所说）
如何训练一个 BERT 深度学习语言模型?
AI天才研究院
09-11 3209
本文作者是资深人工智能专家、资深程序员和软件架构师，他主要从事机器学习、深度学习以及自然语言处理领域的研究工作。近年来由于在自然语言处理、机器学习和图像识别等领域的突破性进展，人们越来越重视对人类语言的理解和建模。语言模型可以帮助计算机更好地理解和生成文本，实现自动问答、聊天机器人、搜索引擎、翻译系统等功能。此外，基于深度学习的语言模型也可以在多语言之间迁移，并帮助构建跨语言的任务，比如：自动摘要、文章审核、语言检测等。使用BERT训练BERT预训练模型；微调BERT预训练模型进行下游任务微调；
【LLM】大模型SFT技术总结（数据|训练|评估）
发现问题，并解决问题，批判性思维
11-04 5706
# 一、背景篇 ## 1. Special Token pretrain 阶段完全没见过的 token，在sft 阶段会被赋予全新的语义。主要用于标注对话的角色：user、assistant、system 这些。 此外，special_token 可以用来“构造知识”，比如"喜欢"这种知识一定是 sft 阶段才会见到的，可以剔除掉 pretrain 先验知识的影响，用来验证 sft 的训练情况，比如会不会过拟合。 我默认大家都知道怎么用 special_token 去拼 prompt，如果不熟悉，看下
深度学习模型系列一——多分类模型——Softmax 回归
热门推荐
weixin_45666566的博客
08-05 3万+
Softmax 回归1、概述 1、概述 softmax 回归(softmax regression)其实是 logistic 回归的一般形式，logistic 回归用于二分类，而 softmax 回归用于多分类，关于 logistic 回归可以看我的这篇博客????机器学习笔记九——线性模型原理以及python实现案例 参考资料： https://blog.youkuaiyun.com/weixin_38169413/article/details/103598534 ...
Torch同时训练多个模型
围城
03-02 1863
20230302。
Ai大模型第二课：以多分类问题实战梳理增量微调
最新发布
qq_49730377的博客
05-27 1158
多分类的增量模型定义和二分类很类似，在全连接网络进行修改就行了。对多分类问题进行处理后，就能对增量微调形成一套自己的理解，这是最基础的知识，但也算是对Ai大模型的学习踏入门槛了。对于各位初学者而言，需要自行进行学习和训练，相信各位一定能很快轻松上手。
训练技巧之百万级类别的分类模型的拆分训练
程序员深度学习
10-26 1226
1. 背景 很多人脸识别算法都是以分类的方式进行训练的，分类的训练方式中存在一个很大的问题，就是模型的最后一个全连接层的参数量太大了，以512为特征为例： 类别数参数矩阵尺寸参数矩阵大小（MB） 100w类别——1953MB 200w类别——3906MB 500w类别——9765MB 类别再多的话，1080TI这种消费级的GPU就装不下了，更不用说还有forward/backward的中间结果需要占据额外的显存。 现在的开源数据越来越多，就算没有自己的数据，靠开源数据也能把类别数量堆到100万了，这种.
工程实践_目标检测&&分类&&分割模型训练实践流程
欢迎大家关注我
03-15 424
我们在深度学习研究的过程中，需要对一个新模型做快速的搭建、配置、调试、训练、改写等步骤，最后才能评估模型的效果，是否可以用于我们的当前的研究和业务的开展。 我们需要在这个过程中尽可能快的打通熟悉整个模型，让模型跑起来，为了让我们少踩坑，我们需要一个有逻辑的模型训练步骤，下面我总结了完整的步骤，供大家参考学习： 数据集制作：一般我们会从数据侧拿到json格式的原生文件，我们需要对数据集进行格式转换，比如json -> VOC；VOC -> Darkent等等。我们还需要对数据进行清洗，排查脏数据
关于keras模型分步训练的一些探索
沃·夏澈德的博客
08-24 512
将模型分为了两部分来训练，观察相互之间的影响，结果表明，模型1，2在分开训练的情况下，组合后依然有效，最终计算结果相同。 from keras import optimizers from keras.datasets import mnist from keras.layers import Dense, Input from keras.models import Model from keras.utils import np_utils (X_train, y_train1), (X_tes.
自然语言处理预训练技术实践--BERT 预训练模型及文本分类
学习中
09-29 2073
自然语言处理预训练技术实践--BERT 预训练模型及文本分类
深度学习基于Resnet18的图像多分类--训练自己的数据集(超详细 含源码)
她是不会无条件的！！
06-22 2万+
深度学习基于Resnet18的图像多分类--训练自己的数据集(超详细 含源码)
六种用于文本分类的开源预训练模型
TensorFlowNews
06-10 2616
作者|PURVA HUILGOL 编译|VK 来源|Analytics Vidhya 介绍 我们正站在语言和机器的交汇处，这个话题我很感兴趣。机器能像莎士比亚一样写作吗？机器能提高我自己的写作能力吗？机器人能解释一句讽刺的话吗？ 我肯定你以前问过这些问题。自然语言处理（NLP）也致力于回答这些问题，我必须说，在这个领域已经进行了突破性的研究，促使弥合人类和机器之间的鸿沟。 文本分类是自然语言处理的核心思想之一。如果一台机器能够区分名词和动词，或者它能够在客户的评论中检测到客户对产品的满意程度，我们可以将这
深度学习笔记10-多分类
weixin_51828505的博客
11-07 1338
多分类和softmax回归在多分类问题中，一个样本会被划分到三个或更多的类别中，可以使用多个二分类模型或一个多分类模型，这两种方式解决多分类问题。
大模型分布式训练技术
yaohaishen的专栏
01-06 5307
大模型训练方法： 1.MoE: Outrageously Large Neural Networks: The Sparsely-Gated Mixture-of-Experts Layer. motivation 现在的模型越来越大，训练样本越来越多，每个样本都需要经过模型的全部计算，这就导致了训练成本的平方级增长。为了解决这个问题，即将大模型拆分成多个小模型，对于一个样本来说，无需经过所有的小模型去计算，而只是激活一部分小模型进行计算，这样就节省了计算资源。那么如何决定一个样本去经过哪些小模型.
强烈推荐！！一个很好的github，上面有分类、检测、分割常用网络及预训练模型（caffe版）
volcano_Lin 的博客
08-31 5346
一、分类、检测、分割常用网络模型： 入口：   https://github.com/soeaver/caffe-model 我看了一下，主要还是分类的网络模型多一些，而且预训练模型也都是分类的模型 检测和分割很少     我们打开分类的文件夹看看 基本常用的几个都有，而且里面有不同层数的版本 如resnet：   二、预训练模型： 入口：  https://gi...
多目标的回归问题用一个模型训练好还是用多个模型训练好？
AlphaFinance
12-20 1138
多目标的回归问题（MTR, Multiple Target Regression） Why use multi-output models instead of a combination of single-output models like regression? Models using single outputs take longer to train and are computationally expensive They optimize for the single target
Python机器学习笔记：利用Keras进行多类分类
qq_38462278的博客
09-06 6386
Keras是一个用于深度学习的Python库，它包含高效的数值库Theano和TensorFlow。 　　本文的目的是学习如何从csv中加载数据并使其可供Keras使用，如何用神经网络建立多类分类的数据进行建模，如何使用scikit-learn评估Keras神经网络模型。 前言，对两分类和多分类的概念描述 　　（前言是整理别人博客的笔记https://blog.youkuaiyun.com/qq_222...
训练分类模型一般能够用到的小技巧
TYtangyan的博客
11-22 821
分类模型训练trick; 1: 网络模型的选择（resnet、densenet、EfficientNet等） 2：数据增强的方式（翻转、亮度对比度、随机裁剪、随意移除等） 3：损失函数（样本类别数量不均衡加权、难易程度focs loss） 4：标签平滑 labelsmooth 5：学习率 （warm-up、余弦退火） 6：dropout与正则化 （优化器中的weight_decay） 7：梯度累加（变相增加bathchsize） 8：网络冻结（迁移学习冻结部分网络权重） 9...
林轩田机器学习基石——多类别分类问题（multi-class classification）
henghane的博客
02-10 1万+
林轩田机器学习基石——多类别分类问题（multi-class classification）对于一个k类别分类问题，我们要做的是判断一个样本是k类别中的哪一类，实际上是二分类问题的拓展，解决方法也是二分类分类方法的延伸。 问题描述为：现有N个训练样本,每个样本的输出是k类类标的一种，我们需要训练出一个能够判别出样本类标的训练器。简单,常用的多分类方法可分为两种：一对多方法（One-Versus-A
两种模型训练方式思考比较
Touch_Dream的博客
03-26 1283
关于神经网络两种模型训练方式思考： 1、第一种是一个样本的训练方式： 每次只输入一个样本，计算出均方误差，之后进行一次全局权值调整。然后依次的训练其他的样本，直到所有的样本都满足最后的模型，模型收敛！这种方法的缺点就是收敛太慢，但好处就是可以严格控制每个样本的误差量。 2、样本的批训练方式（常用）： 将所有的样本依次输入网络，计算出各个样本的均方误差，然后累加所有的误差，进行一
可以将模型的训练任务分配到多个GPU或TPU上
01-20
### 分布式深度学习模型训练 #### JAX多GPU/TPU分布式训练概述 利用JAX进行多GPU或TPU上的分布式训练能够显著提升大型深度学习模型的训练效率和性能。借助于JAX内置的支持特性，如自动微分、XLA编译优化以及高效的...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值