34、贝叶斯统计入门与实践

贝叶斯统计入门与实践

1. 贝叶斯统计基础

贝叶斯框架允许我们在观察数据之前，将先验知识纳入建模过程。通过先验分布 (P(\beta))，我们可以表达对参数 (\beta) 可能取值的概率的先验信念。例如，若认为所有特征应具有相似效果，可将系数的先验分布配置为围绕相同值。

在预测方面，由于参数 (\beta) 遵循后验分布 (P(\beta|x, y))，给定新输入数据 (x^ ) 时，预测值 (y^ ) 不再是一个单一数值，而是遵循后验预测分布 (P(y^ |x^ , \beta)) 的一系列可能值。我们可以利用这个分布来理解预测结果的不确定性：若分布较宽，预测的不确定性较高；若分布较窄，预测则更集中且更可靠。并且，随着新数据的出现，后验分布 (P(\beta|x, y)) 会不断演变。

2. 生成模型理解

在贝叶斯推断中，生成模型指定了数据生成的概率分布。以二元目标数据为例，可假设其遵循参数为 (p)（表示成功概率）的伯努利分布。要得到二元结果列表，需先为 (p) 赋值，再从该伯努利分布中重复抽样生成二元标签。

下面通过一个练习来理解生成过程：

练习 14.1 - 生成二元结果

1. 生成 0 到 1 之间的随机数 ：

set.seed(1)
random_prob = runif(1, min = 0, max = 1)
print(random_prob)