有关L2,1范数作用的理解--正则化项作用

L21范数是通过对矩阵各行求2范数后再求1范数实现行稀疏,它要求矩阵行内的元素尽可能多为0。正则化项利用L21范数使矩阵达到行稀疏状态,促进结构化稀疏。文章中提到的列稀疏可能源于不同上下文的理解差异。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

一、公式

 

二、理解

 1、先对矩阵按行求向量2范数,得到一个向量,再对该向量求1范数。外层的1范数强制部分行2范数为0,也就意味着该行所有值都为0。

2、由此可以看出l21范数实则为矩阵每一行的l2范数之和,综上可以这样解释,不同于l1范数(矩阵元素绝对值之和)的稀疏要求,l21范数要求行稀疏。

三、总结

1、正则化项的作用:使每一行的l2范数尽可能小,行内出现尽可能多的0元素,尽可能稀疏,也称为行稀疏。【看的论文里有提到L21范数是列稀疏,有点疑惑,有知道的大佬可以指点迷津】

2、行稀疏、列稀疏统称结构化稀疏。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值