0范数,向量中非零元素的个数。
1范数,为绝对值之和。
2范数,就是通常意义上的模。
L0和L1范数让W向量中项的个数最小化
L2范数是指向量各元素的平方和然后求平方根。我们让L2范数的正则项||W||2最小,可以使得W的每个元素都很小,都接近于0(考虑稳定)但与L1范数不同,它不会让它等于0,而是接近于0。
防止过拟合
https://www.zhihu.com/question/20924039
0范数,向量中非零元素的个数。
1范数,为绝对值之和。
2范数,就是通常意义上的模。
L0和L1范数让W向量中项的个数最小化
L2范数是指向量各元素的平方和然后求平方根。我们让L2范数的正则项||W||2最小,可以使得W的每个元素都很小,都接近于0(考虑稳定)但与L1范数不同,它不会让它等于0,而是接近于0。
防止过拟合
https://www.zhihu.com/question/20924039