36、核密度估计与应用实践

核密度估计与应用实践

核密度估计基础

核密度估计（Kernel Density Estimation，KDE）是一种用于估计数据分布的非参数方法。它通过在每个输入点的位置贡献一个分布（如高斯分布），平滑地描绘出数据的分布形状，相比简单的统计方法，能更准确地反映数据分布，且方差更小，即对采样差异的响应变化更小。

KDE 有两个自由参数：核函数（kernel）和核带宽（kernel bandwidth）。核函数指定了在每个点处放置的分布形状，而核带宽控制着每个点处核的大小。在实践中，有多种核函数可供选择，例如 Scikit - Learn 的 KDE 实现支持六种核函数，具体信息可查看其密度估计文档。

虽然 Python 中有多个库实现了 KDE（如 SciPy 和 StatsModels 包），但 Scikit - Learn 的版本因其效率和灵活性而更受青睐。它通过 sklearn.neighbors.KernelDensity 估计器实现，可处理多维数据，支持六种核函数和几十种距离度量。由于 KDE 计算量较大，该估计器使用基于树的算法，并可通过 atol （绝对容差）和 rtol （相对容差）参数在计算时间和准确性之间进行权衡。

以下是使用 Scikit - Learn 的 KernelDensity 估计器复制前面绘图的简单示例代码：

from sklearn.neighbors import KernelDensity
# instantiate and