【机器学习】朴素贝叶斯python实现（连续特征和离散特征）

最新推荐文章于 2024-07-18 07:05:52 发布

泉水豆花儿

最新推荐文章于 2024-07-18 07:05:52 发布

阅读量1.8k

点赞数

分类专栏：机器学习文章标签： python3 朴素贝叶斯机器学习

本文链接：https://blog.youkuaiyun.com/zc_stats/article/details/103319337

版权

本文深入探讨了朴素贝叶斯分类器的两种主要形式：离散型和连续型。详细介绍了离散型朴素贝叶斯如何通过计算条件概率进行训练和预测，以及连续型朴素贝叶斯如何使用高斯分布进行参数估计。通过具体实例，展示了算法在实际数据集上的应用及准确率评估。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

# -*- coding: utf-8 -*-
# @Date   : 2019/11/25
# @File   : NaiveBayes.py
# @Author : zhaochen

import numpy as np

'''
离散型变量的朴素贝叶斯
连续型变量的朴素贝叶斯
如果既有离散又有连续变量 朴素贝叶斯能实现吗？ 好像不能
'''

class NaiveBayesBase(object):

    def __init__(self, lamb=1):
        self.lamb = lamb

    def fit(self, X, y):
        pass

    def predict(self, X):
        pass


class NaiveBayesDiscrete(NaiveBayesBase):

    def fit(self, X, y):

        return self.__discrete_features_estimate(X, y)

    def predict(self, X):
        n, m = X.shape
        prob = np.zeros((n, self.k))
        for i in range(n):
            for c in range(self.k):
                sample_condition_prob = 1
                for f in range(m):
                    X_f = X[i, f]
                    # 可以考虑取log防止数据下溢
                    condition_prob = self.condition_prob[c][f].get(X_f)
                    sample_condition_prob