ML中常用的归一化/标准化/正则化区别与联系

先行知识——量纲、方差、标准差、均方差、均方误差的概念

量纲——量纲（dimensionh）是指物理量的基本属性。均方误差物理学的研究可定量地描述各种物理现象，描述中所采用的各类物理量之间有着密切的关系，即它们之间具有确定的函数关系。为了准确地描述这些关系，物理量可分为基本量和导出量。基本量是具有独立量纲的物理量，导出量是指其量纲可以表示为基本量量纲组合的物理量；一切导出量均可从基本量中导出，由此建立了整个物理量之间函数关系。这种函数关系通常称为量制。以给定量制中基本量量纲的幂的乘积表示某量量纲的表达式，称为量纲式或量纲积。它定性地表达了导出量与基本量的关系，对于基本量而言，其量纲为其自身。

量纲和单位的区别——量纲是表征物理量的性质（类别），如时间、长度、质量等；单位是表征物理量大小或数量的标准，如s、m、Kg等。同一个物理量的性质可以用不同的单位来表示，比如时间可以用国际单位制秒(s)来表示，也可以用分(min)、小时(h)等表示。还有就是单位不一定是表征物理量的，比如货币的单位：元。之所以会产生量纲和单位是等价的混淆，是因为，国际单位制规定中，规定了七个基本物理量的量纲及其对应的单位，如下图所示：

如上图所示，第一列表示是基本物理量量纲，第二列表示基本物理量的量纲符号，第三列表示基本物理量的单位（也就是物理量的度量标准）第四列表示