1、统计与因果模型的探索：从基础到挑战

统计与因果模型的探索：从基础到挑战

因果关系是一个引人入胜的研究领域，其数学化进程才刚刚起步，许多概念性问题仍在激烈讨论中。在研究随机变量之间的依赖关系时，统计学习和因果推断是两个重要的方向。下面我们将深入探讨统计与因果模型的相关内容。

1. 概率理论与统计基础

概率理论和统计学基于随机实验或概率空间((\Omega,F,P))的模型。其中，(\Omega)是包含所有可能结果的集合，(F)是事件(A \subseteq\Omega)的集合，(P)是为每个事件分配概率的测度。概率理论使我们能够根据这个数学结构推断随机实验的结果，而统计学习则处理相反的问题，即从实验结果推断底层数学结构的性质。

假设我们有观测数据((x_1,y_1),…,(x_n,y_n))，其中(x_i \in X)是输入（有时称为协变量或案例），(y_i \in Y)是输出（有时称为目标或标签）。我们通常假设每个((x_i,y_i))是由同一个未知随机实验独立生成的，即这些观测是具有联合分布(P_{X,Y})的独立同分布（i.i.d.）随机变量((X_1,Y_1),…,(X_n,Y_n))的实现。

在实际中，我们可能对(P_{X,Y})的某些属性感兴趣，例如：
- 给定输入时输出的期望(f(x) = E[Y |X = x])，称为回归（通常(Y = R)）。
- 一个二元分类器，将每个(x)分配到更可能的类别(f(x) = \arg\max_{y\in Y} P(Y = y|X = x))（其中(Y = {±1})）。
- (P_{X,Y})的密度(p_{X,Y})（假设它存在）。

我们试图从有限数据集估计这些属性，这构成了一个逆问题，即根据对