python计算香浓熵（直方图法）

＾哪来的＆永远～

于 2022-05-02 13:40:01 发布

阅读量1.8k

点赞数 1

CC 4.0 BY-SA版权

文章标签： python 开发语言概率论信息熵

本文链接：https://blog.youkuaiyun.com/qq_45538220/article/details/124540010

这篇博客通过Python展示了如何计算一组数据的香浓熵。首先，定义数据并设定bin宽度，然后利用matplotlib库绘制直方图，计算样本频率和概率。接着，根据样本概率计算香浓熵，其公式涉及对数运算。博客还提到了香浓熵的概念及其计算原理。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

import numpy as np
import matplotlib.pyplot as plt
import math

data = [160,162,183,174,172,161,171]
bins_size = 5  # 每个bin的宽度，可以自行设置
# 获取所有bin，np.max(data)+bins_size确保所有数值都有bin装，如果np.max(data)，这里你会发现样本183没有bin可以装
num_bins = np.arange(np.min(data), np.max(data)+bins_size, bins_size)

# 获取样本频率：Xn
Xn, bins, patches = plt.hist(data, 
                             num_bins, 
                             density = False,  # 那么纵坐标表示落入这个bins的样本个数
                             # density = True, # 那么纵坐标表示落入这个bins的样本概率(密度)
                             facecolor='blue',  
                             alpha=0.5)
# 获取样本概率:Px
Px = Xn/np.size(data) 

# 计算香浓熵
shannonEnt = 0
for i in range(np.size(Px)):
    if (Px[i] != 0):  
        shannonEnt -= Px[i] * math.log(Px[i], 2)
print("shannonEnt:", shannonEnt)