【机器学习】概率神经网络（PNN）的python实现

一、概率神经网络原理

概率神经网络（Probabilistic Neural Network）的网络结构类似于RBF神经网络，但不同的是，PNN是一个前向传播的网络，不需要反向传播优化参数。这是因为PNN结合了贝叶斯决策，来判断测试样本的类别。

1.1、贝叶斯决策

假设对于测试样本$x$，共有$m$中类别可能 { w 1 , ⋯   , w m } \{ {w_1}, \cdots ,{w_m}\} { w1​,⋯,wm​}，则判断样本类别的贝叶斯决策是:

max ⁡ { p ( w 1 ∣ x ) , p ( w 2 ∣ x ) , ⋯   , p ( w m ∣ x ) } \max \{ p({w_1}\left| x \right.),p({w_2}\left| x \right.), \cdots ,p({w_m}\left| x \right.)\} max{ p(w1​∣x),p(w2​∣x),⋯,p(wm​∣x)}

1.2、PNN的网络结构

要介绍上述概率密度$p(w_i|x)$如何计算，首先要介绍PNN的网络结构。<