向量范数

最新推荐文章于 2022-09-23 16:37:50 发布

原创最新推荐文章于 2022-09-23 16:37:50 发布 · 1.9k 阅读

·

2

·

CC 4.0 BY-SA版权

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

文章标签：

#向量范数 #正则化

向量范数的定义如下：

若实值函数（n维向量空间向一维向量空间的映射） $\left \| \cdot \right \|$ ： $\mathbb{R}^{^{n}}\rightarrow \mathbb{R}}$ 满足下列条件：

（1） $\left \| x \right \|\geqslant 0$ ， $\forall x\in \mathbb{R}^{n}$ ； $\left \| x \right \|=0$ 当且仅当 $x=0$ ；

（2） $\left \| \alpha x \right \|=\left | \alpha \right |\left \| x \right \|$ ， $\forall \alpha \in \mathbb{R}$ ， $x\in \mathbb{R}^{n}$ ；

（3） $\left \| x+y \right \|\leqslant \left \| x \right \|+\left \| y \right \|$ ， $\forall x,y\in \mathbb{R}^{n}$ ；

则称 $\left \| \cdot \right \|$ 为向量范数。

设x为n维列向量，常用的向量范数有 $L_{1}$ 范数， $L_{2}$ 范数， $L_{\infty }$ 范数：

$\left \| x \right \|_{1}=\sum_{j=1}^{n}\left | x_{j} \right |$

$\left \| x \right \|_{2}=\left ( \sum_{j=1}^{n} x_{j}^{2}\right ) ^{1/2}$

$\left \| x \right \|_{\infty }=\max_{j}\left | x_{j} \right |$

一般地，对于 $1\leqslant p< \infty$ ， $L_{p}$ 范数为：

$\left \| x \right \|_{p}=\left ( \sum_{j=1}^{n} \left | x_{j} \right | ^{p}\right ) ^{1/p}$

一般我们默认 $\mathbb{R}^{n}$ 为n维的欧式空间（Euclid空间，欧几里得空间），所以我们称 $L_{2}$ 范数为欧几里得范数。

从定义可以看出， $L_{1}$ 范数对应于曼哈顿距离， $L_{2}$ 范数对应于欧式距离。

所以范数，实际是用于度量向量的大小，常见的求向量的模实际上是在求向量的 $L_{2}$ 范数。若向量是由坐标点表示的话（x,y），则向量的模等于该点与原点连线的长度，即欧氏距离。

可以看出度量向量大小，除了常用的欧氏距离（ $L_^{2}$ 范数）外，曼哈顿距离（ $L_^{1}$ ）也是常见的一种度量方法。

在机器学习中，定义模型的损失函数（惩罚项）时，常使用 $L_^{1}$ 范数和 $L_^{2}$ 范数来定义函数损失，称为 $L_^{1}$ 正则化和 $L_^{2}$ 正则化。

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

打赏作者

猫猫虫(——) 你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20

扫码支付：¥1

获取中

扫码支付

您的余额不足，请更换扫码支付或充值

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。