多维核密度估计

多元核密度估计

承接上一篇文章,接着讨论多维随机变量情况下的核密度估计。

定义

给定一组样本X={ x1,x2,⋯ ,xn}\bm{X}=\{ \bm{x}_1,\bm{x}_2,\cdots,\bm{x}_n \}X={ x1​,x2​,⋯,xn​}且都是$d$维的向量,并且取自同一个连续分布$f(\mathbf{x})$,则在任意点$\mathbf{x}$处的核密度估计为:
$$\widehat{f_h(\mathbf{x})}=\frac{1}{n}\sum _{i=1}^n\frac{1}{h^d}K\left(\frac{\mathbf{x}-{\mathbf{X}}_{\mathbf{i}}}{h}\right)$$
$f(\mathbf{x})$是一个$d$维随机变量的密度函数.$K(\cdot )$是定义在$d$维空间上的核函数,即$K:{\mathbb{R}}^d\to {\mathbb{R}}_{+}$,并满足：
$$K(\mathbf{x})⩾0,\int K(\mathbf{x})\mathrm{d}\mathbf{u}=1.$$
更一般的形式有:
fh(x)^=1n∑i=1n1h1⋅⋯⋅hnK(x1−X1h1,⋯ ,xn−Xnhn) \hat{f_h({\bm{x}})}=\frac{1}{n}\sum_{i=1}^n \frac{1}{h_1\cdot \dots \cdot h_n} K\left( \frac{\bm{x}_1-\bm{X}_1}{h_1},\cdots, \frac{\bm{x}_n-\bm{X}_n}{h_n} \right) f