L1 L2范数 概念

1 范数

向量的范数可以简单形象的理解为向量的长度,或者向量到零点的距离,或者相应的两个点之间的距离。

向量的范数定义:向量的范数是一个函数||x||,满足非负性||x|| >= 0,齐次性||cx|| = |c| ||x|| ,三角不等式||x+y|| <= ||x|| + ||y||。

常用的向量的范数:

L0范数:||x||0为x向量各个非零元素的个数

L1范数:  ||x||1 为x向量各个元素绝对值之和。
L2范数:  ||x||2为x向量各个元素平方和的1/2次方,L2范数又称Euclidean范数或者Frobenius范数
Lp范数:  ||x||为x向量各个元素绝对值p次方和的1/p次方

L∞范数:  ||x||为x向量各个元素绝对值最大那个元素的绝对值,如下:


椭球向量范数: ||x||A  = sqrt[T(x)Ax], T(x)代表x的转置。定义矩阵C 为M个模式向量的协方差矩阵, 设C’是其逆矩阵,则Mahalanobis距离定义为||x||C’  = sqrt[T(x)C’x], 这是一个关于C’的椭球向量范数。

转自:http://blog.youkuaiyun.com/kingzone_2008/article/details/15073987

### L1范数与L2范数的区别 #### 公式定义 L1范数是指向量中各元素绝对值的和,其公式为: \[ ||x||_1 = |x_1| + |x_2| + ... + |x_n| \][^3] L2范数则是指向量中各元素平方和的平方根,其公式为: \[ ||x||_2 = \sqrt{|x_1|^2 + |x_2|^2 + ... + |x_n|^2} \][^3] 这两种范数的主要区别在于它们如何衡量向量的大小以及对模型的影响。 --- ### 特性和差异 #### 稀疏性 L1范数的一个重要特性是能够促使模型权重变得稀疏。这意味着通过最小化目标函数中的L1正则项,可以使许多权重变为零,从而实现特征选择的效果[^4]。相比之下,L2范数不会使权重完全降为零,而是倾向于缩小所有权重的值,使得模型更加平滑但并不稀疏。 #### 防止过拟合 从学习理论角度出发,无论是L1还是L2范数都可以有效预防模型过拟合现象的发生。不过具体机制有所不同: - **L1范数**通过减少不必要的参数来降低复杂度; - **L2范数**通过对较大系数施加惩罚以抑制极端值的存在,进而增强泛化性能[^1]。 此外,在某些特定条件下(如条件数较差),采用L2正则化的优化过程会相对稳定一些[^1]。 --- ### 应用场景分析 #### 使用L1范数的情况 当希望获得具有较少活跃变量或需要自动执行特征选取功能的应用场合下适合选用带有L1正则化的回归方法——即所谓的“Lasso Regression”。这种技术特别适用于高维数据集当中存在大量冗余属性的情形之下[^4]。 ```python from sklearn.linear_model import Lasso lasso_reg = Lasso(alpha=0.1) lasso_reg.fit(X_train, y_train) ``` #### 使用L2范数的情景 如果更关注于保持整体预测精度的同时避免过度依赖单一输入维度,则推荐利用Ridge Regression(岭回归), 它基于L2正则化原理构建而成。这种方法对于解决多重共线性问题尤为有效。 ```python from sklearn.linear_model import Ridge ridge_reg = Ridge(alpha=1.0) ridge_reg.fit(X_train, y_train) ``` --- ### 总结对比表 | 属性 | L1范数 | L2范数 | |--------------|----------------------------------|--------------------------------| | **公式** | \( ||x||_1 = \sum_{i}|x_i| \) | \( ||x||_2 = (\sum_{i}x_i^2)^{1/2} \)[^3] | | **特点** | 导致稀疏解 | 不会导致稀疏解 | | **适用情况** | 自动特征选择 | 处理多重共线性 | ---
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值