向量范数的定义如下:
若实值函数(n维向量空间向一维向量空间的映射):
满足下列条件:
(1),
;
当且仅当
;
(2),
,
;
(3),
;
则称为向量范数。
设x为n维列向量,常用的向量范数有范数,
范数,
范数:
一般地,对于,
范数为:
一般我们默认为n维的欧式空间(Euclid空间,欧几里得空间),所以我们称
范数为欧几里得范数。
从定义可以看出,范数对应于曼哈顿距离,
范数对应于欧式距离。
所以范数,实际是用于度量向量的大小,常见的求向量的模实际上是在求向量的范数。若向量是由坐标点表示的话(x,y),则向量的模等于该点与原点连线的长度,即欧氏距离。
可以看出度量向量大小,除了常用的欧氏距离(范数)外,曼哈顿距离(
)也是常见的一种度量方法。
在机器学习中,定义模型的损失函数(惩罚项)时,常使用范数和
范数来定义函数损失,称为
正则化和
正则化。