行人属性分类算法:自适应权重多任务学习

论文:http://www.yugangjiang.info/publication/17MM-PersonAttribute.pdf

github地址:https://github.com/qiexing/adaptive_weighted_attribute

Adaptively Weighted Multi-task Deep Network for Person A!ribute Classification

 

一、创新点

这是2017年复旦大学提出的一种行人多属性分类算法,在常规的多任务学习基础上提出一种自适应权重更新方法,在网络训练的过程中根据验证损失的大小计算和更新每个属性分类任务的权重,总的损失是所有属性分类损失加权和。

 

1、网络结构

基网络采用ResNet-50,所有分类任务共享,在基网络提取的共享特征之上分别对每个属性进行分类。网络的输入分为两个部分,训练图片及验证图片,其中验证图片用于计算每个batch的验证损失(假设有M个属性,则记录每个属性分类分支的验证损失)。文中设置batch size=20,其中训练图片10张,验证图片为10张。

 

2、网络损失函数

base model

    

文中改进方案

其中\lambda表示权重。

从实验结果来看,自适应加权损失方法相比等权重损失(即每个属性的分类损失权重都为1,base model)分类精度提升1.4。相比对每个属性单独训练一个二分类模型方案(Separate Models)提升2.2。

3、损失权重更新迭代的方法

M个属性分类的训练损失权重初始化为1(M维的向量)。每训练迭代k个batch后(文中设置为200),根据当前记录的k个验证损失及上一次记录的k个验证损失计算每个属性权重并更新。基本思想是根据验证损失大小判断每个属性分类模型的泛化能力,泛化能力差的模型会增大损失权重,使训练过程能更好的拟合该属性,提升分类精度。类似在训练过程中做在线困难样本采样(OHEM)。

 

4、标签生成

文中一个图片会有多个类别标注,如果存在该属性则label标为1,否则标为-1。损失函数使用的是平方误差损失,而非常规的binary cross entropy loss。感觉这是可以尝试改进的点,标签也可以按常规标注为0和1。

测试时,对某个属性的预测值若大于0,则图片标识存在该属性。

### 自适应权重融合机制概述 自适应权重融合机制是一种基于输入数据动态调整各分支或模块贡献程度的技术,广泛应用于机器学习和深度学习领域。其核心在于利用特定的计算方式生成一组权重向量,该向量能够反映各个输入源的重要性和可靠性。 #### 概念定义 自适应权重融合的核心理念是根据不同条件下的输入特性,动态地赋予不同的权重值来优化整体性能[^2]。这种技术通常被用来解决多模态数据融合、跨域适配等问题。例如,在行人重识别任务中,通过学习特征融合的方式,可以有效提升模型对于不同场景下个体身份判别的准确性[^1]。 #### 实现方法 一种常见的实现方法是在神经网络架构内部引入可训练参数作为权重系数,并借助反向传播算法对其进行优化。具体而言: - **加权求和法**:这是最基础的形式之一,即通过对多个输入信号乘以其对应的权重后再相加以得到最终输出结果。 ```python import torch.nn as nn class WeightedFusion(nn.Module): def __init__(self, num_inputs=2): super(WeightedFusion, self).__init__() self.weights = nn.Parameter(torch.ones(num_inputs)) def forward(self, inputs_list): normalized_weights = nn.functional.softmax(self.weights, dim=-1) fused_output = sum(w * inp for w, inp in zip(normalized_weights, inputs_list)) return fused_output ``` - **注意力机制**:更高级的方法则涉及到了复杂的注意力建模过程,其中每个位置的关注强度由专门设计好的子结构决定。正如Transformer中的做法那样,它会依据上下文中词语间的关系来自动生成相应的得分矩阵并据此完成后续操作。 #### 应用场景 此类型的解决方案适用于众多实际问题当中,包括但不限于以下几个方面: - 图像分类与物体检测当中的多传感器信息综合处理; - 跨摄像头追踪过程中针对光照变化等因素影响所采取的数据校正措施; - 面对复杂天气状况(如雨雾天)时增强自动驾驶汽车感知系统的鲁棒性表现等情形[^4]。 ### 结论 综上所述,自适应权重融合不仅提供了理论指导意义还具备很强的实际应用价值。随着研究不断深入和技术进步加快步伐,相信这一方向将会取得更加丰硕的研究成果。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值