机器学习-朴素贝叶斯及其手写实现

一、简介

1、朴素贝叶斯的基本思想就是：给出一个分类问题，对于待求项，属于哪个分类的概率最大，那这个待求项就属于哪个分类。
2、如给出假设场景，要分类物有n个特征，分别为F1、F2、F3、…、Fn，现在有m个类别分别是C1、C2、C3、…、Cm。贝叶斯就是计算出概率最大的那个分类。

二、原理

1. 准备知识
   贝叶斯条件概率的计算公式（核心）：

   P(A|B)=P(A,B)/P(B)=P(B|A)*P(A)/P(B)

2. 分类原理
   假设这里要被分类的类别有两类，类c1和类c2，那么我们需要计算概率p(c1|x,y)和p(c2|x,y)的大小并进行比较：
   如果：p(c1|x,y)>p(c2|x,y),则(x,y)属于类c1

   p(c1|x,y)<p(c2|x,y),则(x,y)属于类c2

   我们知道p(x,y|c)的条件概率所表示的含义为：已知类别c1条件下，取到点(x，y)的概率；那么p(c1|x,y)所要表达的含义呢？显然，我们同样可以按照条件概率的方法来对概率含义进行描述，即在给定点(x,y)的条件下，求该点属于类c1的概率值。那么这样的概率该如何计算呢？显然，我们可以利用贝叶斯准则来进行变换计算：

   p(ci|x,y)=p(x,y|ci)*p(ci)/p(x,y)

   利用上面的公式，我