6、机器学习中的数学基础与算法应用

机器学习中的数学基础与算法应用

1. 优化问题转换

在机器学习和深度学习应用中，常使用高级优化包来计算模型参数，这些包通常只能最小化成本函数。对于最大化问题，可通过改变函数符号或取倒数将其转换为最小化问题。例如，可对对数似然函数取负（即 -LogL(p)）并进行最小化，能得到相同的概率估计值。

2. 假设检验与 p 值

• 中心极限定理 ：设 $x_1, x_2, x_3, \cdots, x_n$ 是来自均值为 $\mu$、有限方差为 $\sigma^2$ 的总体的 $n$ 个独立同分布的样本观测值。样本均值 $\bar{x}$ 服从正态分布，均值为 $\mu$，方差为 $\frac{\sigma^2}{n}$，即 $\bar{x} \sim N(\mu, \frac{\sigma^2}{n})$，其中 $\bar{x} = \frac{x_1 + x_2 + x_3 + \cdots + x_n}{n}$。随着样本量 $n$ 的增加，$\bar{x}$ 的方差减小，当 $n \to \infty$ 时趋于零。
• 假设检验示例 ：已知 10 岁男孩平均体重为 85 磅，标准差为 11.6。从某县随机抽取 25 名男孩，其平均体重为 89.16 磅。
  • 零假设 ：$H_0$：该县儿童不肥胖，即他们来自均值 $\mu = 85$ 的总体。
  • 标准正态变量计算 ：$z = \frac{\bar{x} - \mu}{\frac{\sigma}{\