31、机器学习：从基础概念到实践方法

机器学习：从基础概念到实践方法

1. 代码与练习

1.1 代码示例

• demoBayesErrorAnalysis.m ：用于贝叶斯误差分析的演示。
• betaXbiggerY.m ：计算 (x \sim B(x|a, b))，(y \sim B(y|c, d)) 时 (p(x > y)) 的值。

1.2 练习题目

1.2.1 硬币抛掷模型选择

编写一个程序，使用离散域的 (\theta) 实现公平/有偏硬币抛掷模型选择的示例。并解释如何克服处理大量正面（(N_H)）和反面（(N_T)）（数量级约为 1000）时可能出现的数值问题。

1.2.2 对冲基金收益建模

在对冲基金工作，经理希望根据当前信息 (x_t) 对下一天的收益 (y_{t + 1}) 进行建模。
1. 最大似然估计权重向量 ：假设收益是独立同分布的高斯分布，解释如何通过最大似然法设置权重向量 (w)。假设数据 (D) 是独立同分布的，则似然函数为：
[p(y_{1:T}|x_{1:T}, w) = \prod_{t = 2}^{T} p(y_t|x_{t - 1}, w) = \prod_{t = 2}^{T} N(y_t|w^T x_{t - 1}, \sigma_t^2)]
2. 贝叶斯模型选择 ：经理认为某些因素对预测无用，希望尽可能去除。使用贝叶斯模型选择方法，先验为 (p(w|M) = N(w