损失函数学习（自留）

• 来源：微信公众号E等于MC平方

• https://mp.weixin.qq.com/s/q-7PoZlThKgMzGhmHeMspQ

• 1. 定义：损失函数(Loss Function)——是一个衡量预测结果与真实结果之间差异的函数 ，也称为误差函数。它通过计算模型的预测值与真实值之间的不一致程度，来评估模型的性能。损失函数有不同的种类。
• 2. 核心目标：误差度量，如MSE通过平方误差放大异常值影响，而MAE对离群点更鲁棒；反向传播基础，计算损失对参数的梯度，驱动参数更新；正则化耦合，常结合L1/L2正则项形成结构风险最小化。
• 3. 常用损失函数：距离度量的损失函数(L1范数损失函数，L2范数损失函数，均方误差损失函数MSE)，用于分类的损失函数（交叉熵损失函数，多和sigmoid或softmax函数同时出现）