机器学习数学|偏度与峰度及其python实现

样本熵(Python实现) 1. 基本概念 1.1 熵 熵原本是一个热力学概念,是用来描述热力学系统混乱(无序)程度的度量。在信息论建立之后,关于上的概念和理论得到了发展。作为衡量时间序列中新信息发生率的非线性动力学参数,熵在众多的科学领域得到了应用。八十年代最常用的熵的算法是K-S熵及由它发展来的E-R熵,但这两种熵的计算即使对于维数很低的混沌系统也需要上万点的数据,而且它们对于噪声很敏感,时间序列叠加了随机噪声后这两种熵的计算可能不收敛。 1.2 近似熵 近似熵(APEN, Aproximate Entropy),是由Pincus 阅读详情

矩

  • 对于随机变量X,X的K阶原点矩为

    E(Xk)E(Xk)

  • X的K阶中心矩为

    E([X−E(X)]k)E([X−E(X)]k)

  • 期望实际上是随机变量X的1阶原点矩,方差实际上是随机变量X的2阶中心矩
  • 变异系数(Coefficient of Variation):标准差与均值(期望)的比值称为变异系数,记为C.V
  • 偏度Skewness(三阶)
  • 峰度Kurtosis(四阶)

偏度与峰度

利用matplotlib模拟偏度和峰度

计算期望和方差

<span style="color:#000000"><code class="language-python"><span style="color:#000088">import</span> matplotlib.pyplot <span style="color:#000088">as</span> plt
<span style="color:#000088">import</span> math
<span style="color:#000088">import</span> numpy <span style="color:#000088">as</span> np
<span style="color:#000088">def</span> <span style="color:#009900">calc</span><span style="color:#4f4f4f">(data)</span>:
    n=len(data) <span style="color:#880000"># 10000个数</span>
    niu=<span style="color:#006666">0.0</span> <span style="color:#880000"># niu表示平均值,即期望.</span>
    niu2=<span style="color:#006666">0.0</span> <span style="color:#880000"># niu2表示平方的平均值</span>
    niu3=<span style="color:#006666">0.0</span> <span style="color:#880000"># niu3表示三次方的平均值</span>
    <span style="color:#000088">for</span> a <span style="color:#000088">in</span> data:
        niu += a
        niu2 += a**<span style="color:#006666">2</span>
        niu3 += a**<span style="color:#006666">3</span>
    niu /= n  
    niu2 /= n
    niu3 /= n
    sigma = math.sqrt(niu2 - niu*niu)
    <span style="color:#000088">return</span> [niu,sigma,niu3]
</code></span>
  • niu=Xi¯即期望niu=Xi¯即期望

  • niu2=∑ni=1X2inniu2=∑i=1nXi2n

  • niu3=∑ni=1X3inniu3=∑i=1nXi3n

  • sigma表示标准差公式为

    σ=E(x2)−E(x)2−−−−−−−−−−−−√σ=E(x2)−E(x)2

    用python语言表示即为sigma=math.sqrt(niu2−niu∗niu)用python语言表示即为sigma=math.sqrt(niu2−niu∗niu)

  • 返回值为[期望,标准差,E(x3)E(x3)]
  • PS:我们知道期望E(X)的计算公式为

    E(X)=∑i=1np(i)x(i)−−−−−(1)E(X)=∑i=1np(i)x(i)−−−−−(1)

    这里我们X一个事件p(i)表示事件出现的概率,x(i)表示事件所给予事件的权值.
  • 我们直接利用

    E(x)=Xi¯−−−−(2)E(x)=Xi¯−−−−(2)

    表示期望应当明确 
    1. (2)公式中Xi是利用numpy中的伪随机数生成的,其均值用于表示期望Xi是利用numpy中的伪随机数生成的,其均值用于表示期望
    2. 此时(1)公式中对事件赋予的权值默认为1,即公式的本来面目为

      E(x)=(Xi∗1)¯E(x)=(Xi∗1)¯

计算偏度和峰度

<span style="color:#000000"><code class="language-python"><span style="color:#000088">def</span> <span style="color:#009900">calc_stat</span><span style="color:#4f4f4f">(data)</span>:
    [niu, sigma, niu3]=calc(data)
    n=len(data)
    niu4=<span style="color:#006666">0.0</span> <span style="color:#880000"># niu4计算峰度计算公式的分子</span>
    <span style="color:#000088">for</span> a <span style="color:#000088">in</span> data:
        a -= niu
        niu4 += a**<span style="color:#006666">4</span>
    niu4 /= n

    skew =(niu3 -<span style="color:#006666">3</span>*niu*sigma**<span style="color:#006666">2</span>-niu**<span style="color:#006666">3</span>)/(sigma**<span style="color:#006666">3</span>) <span style="color:#880000"># 偏度计算公式</span>
    kurt=niu4/(sigma**<span style="color:#006666">4</span>) <span style="color:#880000"># 峰度计算公式:下方为方差的平方即为标准差的四次方</span>
    <span style="color:#000088">return</span> [niu, sigma,skew,kurt]</code></span>

利用matplotlib模拟图像

<span style="color:#000000"><code class="language-python"><span style="color:#000088">if</span> __name__ == <span style="color:#009900">"__main__"</span>:
    data =  list(np.random.randn(<span style="color:#006666">10000</span>)) <span style="color:#880000"># 满足高斯分布的10000个数</span>
    data2 = list(<span style="color:#006666">2</span>*np.random.randn(<span style="color:#006666">10000</span>))  <span style="color:#880000"># 将满足好高斯分布的10000个数乘以两倍,方差变成四倍</span>
    data3 =[x <span style="color:#000088">for</span> x <span style="color:#000088">in</span> data <span style="color:#000088">if</span> x>-<span style="color:#006666">0.5</span>] <span style="color:#880000"># 取data中>-0.5的值</span>
    data4 = list(np.random.uniform(<span style="color:#006666">0</span>,<span style="color:#006666">4</span>,<span style="color:#006666">10000</span>)) <span style="color:#880000"># 取0~4的均匀分布</span>
    [niu, sigma, skew, kurt] = calc_stat(data)
    [niu_2, sigma2, skew2, kurt2] = calc_stat(data2)
    [niu_3, sigma3, skew3, kurt3] = calc_stat(data3)
    [niu_4, sigma4, skew4, kurt4] = calc_stat(data4)
    <span style="color:#000088">print</span> (niu, sigma, skew, kurt)
    <span style="color:#000088">print</span> (niu2, sigma2, skew2, kurt2)
    <span style="color:#000088">print</span> (niu3, sigma3, skew3, kurt3)
    <span style="color:#000088">print</span> (niu4, sigma4, skew4, kurt4)
    info = <span style="color:#009900">r'$\mu=%.2f,\ \sigma=%.2f,\ skew=%.2f,\ kurt=%.2f$'</span> %(niu,sigma, skew, kurt) <span style="color:#880000"># 标注</span>
    info2 = <span style="color:#009900">r'$\mu=%.2f,\ \sigma=%.2f,\ skew=%.2f,\ kurt=%.2f$'</span> %(niu_2,sigma2, skew2, kurt2)
    info3 = <span style="color:#009900">r'$\mu=%.2f,\ \sigma=%.2f,\ skew=%.2f,\ kurt=%.2f$'</span> %(niu_3,sigma3, skew3, kurt3)
    plt.text(<span style="color:#006666">1</span>,<span style="color:#006666">0.38</span>,info,bbox=dict(facecolor=<span style="color:#009900">'red'</span>,alpha=<span style="color:#006666">0.25</span>))
    plt.text(<span style="color:#006666">1</span>,<span style="color:#006666">0.35</span>,info2,bbox=dict(facecolor=<span style="color:#009900">'green'</span>,alpha=<span style="color:#006666">0.25</span>))
    plt.text(<span style="color:#006666">1</span>,<span style="color:#006666">0.32</span>,info3,bbox=dict(facecolor=<span style="color:#009900">'blue'</span>,alpha=<span style="color:#006666">0.25</span>))
    plt.hist(data,<span style="color:#006666">100</span>,normed=<span style="color:#000088">True</span>,facecolor=<span style="color:#009900">'r'</span>,alpha=<span style="color:#006666">0.9</span>)
    plt.hist(data2,<span style="color:#006666">100</span>,normed=<span style="color:#000088">True</span>,facecolor=<span style="color:#009900">'g'</span>,alpha=<span style="color:#006666">0.8</span>)
    plt.hist(data4,<span style="color:#006666">100</span>,normed=<span style="color:#000088">True</span>,facecolor=<span style="color:#009900">'b'</span>,alpha=<span style="color:#006666">0.7</span>)
    plt.grid(<span style="color:#000088">True</span>)
    plt.show()</code></span>
  • 图形表示的是利用numpy随机数生成函数生成的随机数的统计分布,利用matplotlib.pyplot.hist绘制的直方图.即是出现数字的分布统计,并且是归一化到0~1区间后的结果.
  • 即横轴表示数字,纵轴表示在1000个随机数中横轴对应的数出现的百分比.若不使用归一化横轴表示数字(normed=False),纵轴表示出现的次数.
  • 若不使用归一化–纵轴表示出现次数

  • 关于matplotlib.pyplot.hist函数
<span style="color:#000000"><code class="language-python">n, bins, patches = plt.hist(arr, bins=<span style="color:#006666">10</span>, normed=<span style="color:#006666">0</span>, facecolor=<span style="color:#009900">'black'</span>, edgecolor=<span style="color:#009900">'black'</span>,alpha=<span style="color:#006666">1</span>,histtype=<span style="color:#009900">'b'</span>)
hist的参数非常多,但常用的就这六个,只有第一个是必须的,后面四个可选

arr: 需要计算直方图的一维数组

bins: 直方图的柱数,可选项,默认为<span style="color:#006666">10</span>

normed: 是否将得到的直方图向量归一化。默认为<span style="color:#006666">0</span>

facecolor: 直方图颜色

edgecolor: 直方图边框颜色

alpha: 透明度

histtype: 直方图类型,‘bar’, ‘barstacked’, ‘step’, ‘stepfilled’

返回值 :

n: 直方图向量,是否归一化由参数normed设定

bins: 返回各个bin的区间范围

patches: 返回每个bin里面包含的数据,是一个list</code></span>
  •  

关于matplotlib.pyplot.hist函数

偏度与峰度实战指南:从分布诊断到机器学习特征工程 偏度和峰度是描述数据分布形态的基础统计量,分别量化分布的不对称性与尾部厚重程度。其数学本质源于三阶与四阶中心矩,对异常值高度敏感,直接影响均值代表性、模型假设成立性及风险识别能力。在电商、金融、医疗等场景中,高偏度常导致运营误判,高峰度则预示黑天鹅事件频发,是线性模型残差失真、树模型分割失效的关键诱因。掌握skew()与kurtosis()的实现差异、KDE带宽调优、Q-Q图解读及Box-Cox/Yeo-Johnson变换选型,是构建鲁棒特征工程 pipeline 的核心能力。本文聚焦真实项目中的分布诊断与 阅读详情

相关推荐

偏度与峰度:数据分布的形状罗盘与建模避坑指南

偏度和峰度是描述数据分布形状的核心统计量,分别量化分布的不对称性与尾部厚重程度。其原理源于三阶和四阶中心矩的标准化,本质是衡量数据偏离对称与集中常态的几何特征。在机器学习、风控建模、A/B测试等工程实践中,它们直接决定均值可靠性、异常检测阈值有效性及模型泛化能力。例如,高偏度易导致线性回归系统性低估峰值,高(超额)峰度会使Z-score漏检真实异常。掌握这两个指标,是进行稳健特征工程、合理算法选型与可信数据诊断的前提。本文聚焦真实业务场景中的计算、解读与落地对策。

weixin_32349093的博客 294

Python:怎么画出均值和置信区间的图

1. 基础数学知识

强劲九 1万+

参数检验前必看:用偏度与峰度诊断数据正态性

在统计学与数据分析领域,参数检验(如t检验、方差分析)是进行统计推断的核心工具,其有效性建立在数据满足正态分布等假设的基础之上。正态分布的原理要求数据形态对称且尾部适中,这是许多经典统计方法推导的数学前提。理解并验证这一前提的技术价值在于,它能确保假设检验的p值与置信区间准确可靠,避免因模型误用而导致错误的科学结论或商业决策。在实际应用场景中,无论是A/B测试、学术研究还是业务效果评估,在正式运行参数检验前,对数据进行分布形态的量化诊断已成为标准流程。其中,偏度与峰度是两个关键的诊断指标,它们如同数据的“体

weixin_33850890的博客 492

【python】计算偏度和峰度

今天带大家学习一下数据分析中的偏度和峰度

学无止境、积少成多、厚积薄发 1万+

偏度与峰度:数据分布的隐形指挥官,决定模型成败的关键指标

在数据分析与机器学习实践中,数据分布形态远比均值和方差更能揭示真实风险与业务异常。偏度(Skewness)刻画分布尾部的不对称性,反映极端值对决策的拉扯力;峰度(Kurtosis)则衡量尾部肥厚程度,直接关联‘黑天鹅’事件发生概率。二者共同构成分布健康度的核心判据,是特征工程、AB测试评估、风控阈值设定及时间序列监控不可绕过的底层依据。尤其在电商GMV分析、用户行为建模、金融风控等高频场景中,忽略偏度/峰度常导致模型线上飘移、异常过滤失当、A/B结论失效等典型事故。本文聚焦实战解读与快速响应,提供可落地的计

weixin_30607659的博客 474

样本熵程序

网上找的一个样本熵的程序,不错的东东,共享给大家并感谢原始作者。

【Python】近似熵,样本熵,模糊熵计算高效版

最近在学习机器学习,发现对于与生物医学信号相关的机器学习任务,在选定特征时,各种针对时间序列的熵是绕不开的重要特征,诸如近似熵,样本熵,模糊熵等。因为它们所包含的信息要远比均值方差等特征要多得多,通过写python程序实现的过程中收获了不少,这里简单总结一下。计算各种熵的关键还是在于对计算方式的理解,如果博客说法不一,那就去查找文献,如果文献说法不一,那就去找提出这个熵的论文。

记录学习成长之路,进一寸有进一寸的欢喜 1万+

样本熵代码

样本熵代码

使用python求信号的样本熵

在上述代码中,我们生成了一个示例信号 [1, 2, 3, 4, 5, 6, 7, 8, 9, 10],然后使用。要计算信号的样本熵(sample entropy),您可以使用pyentrp等库来实现。函数从pyentrp库中计算样本熵。样本熵是一种用来度量信号复杂度或不规则程度的指标。注意,pyentrp库可用于计算多种熵指标,例如样本熵、近似熵等。您可以根据您的需求选择适当的熵指标。

晓林爱学习的博客 1699

SampEn样本熵计算

计算样本熵的Matlab程序,可用于机械故障诊断,生物医学信号处理(例如脑电、肌电、心电等)

各种熵的代码(包括模糊熵、样本熵、相似熵等等)

本代码真实有效,可以运行,包括各种熵的matlab代码,样本熵、近似熵、模糊熵等等。

python求偏度系数_机器学习数学|偏度与峰度及其python实现

机器学习中的数学觉得有用的话,欢迎一起讨论相互学习~Follow Me原创文章,如需转载请保留出处本博客为七月在线邹博老师机器学习数学课程学习笔记矩对于随机变量X,X的K阶原点矩为 \[E(X^{k})\]X的K阶中心矩为 \[E([X-E(X)]^{k})\]期望实际上是随机变量X的1阶原点矩,方差实际上是随机变量X的2阶中心矩变异系数(Coefficient of Variation):标准差...

weixin_39872395的博客 1097

样本熵python代码

样本熵python代码实现,使用一个时间序列列表用来test代码,运行流程无BUG,有需要的自取。样本熵python代码实现,使用一个时间序列列表用来test代码,运行流程无BUG,有需要的自取。 样本熵python代码实现,使用一个时间序列列表用来test代码,运行流程无BUG,有需要的自取。

python 数学期望_机器学习数学笔记|偏度与峰度及其python实现

机器学习数学笔记|偏度与峰度及其python实现觉得有用的话,欢迎一起讨论相互学习~本博客为七月在线邹博老师机器学习数学课程学习笔记为七月在线打call!!课程传送门矩对于随机变量X,X的K阶原点矩为\[E(X^{k})\]X的K阶中心矩为\[E([X-E(X)]^{k})\]期望实际上是随机变量X的1阶原点矩,方差实际上是随机变量X的2阶中心矩变异系数(Coefficient of Variat...

weixin_39711348的博客 504

ONNC Open Neural Network Compiler 开源神经网络编译器 一个 开源、模块化、可重用编译器算法和工具链的库,专门针对深度学习加速器(DLA)部署导入ONNX模型

ONNC是一个集合了开源、模块化、可重用编译器算法和工具链的库,专门针对深度学习加速器(DLA)。ONNC从底层开始构建,旨在将ONNX中间表示(IR)翻译成专有DLA代码。其软件架构设计强调可移植性和可重用性,从而简化了开发新后端的工作。上图展示了ONNC软件栈的顶层框图。软件栈从导入ONNX计算图模型到输出相应的硬件二进制文件,展示了各个功能块。

万有文的博客 1998

树莓派4B+Ubuntu22.04+思岚RPLIDAR C1激光雷达应用

树莓派+Ubuntu22.04+思岚RPLIDAR C1激光雷达简单应用

techfuture的博客 3711

机器学习数学笔记|偏度与峰度及其python实现

机器学习中的数学觉得有用的话,欢迎一起讨论相互学习~Follow Me 原创文章,如需转载请保留出处 本博客为七月在线邹博老师机器学习数学课程学习笔记 矩 对于随机变量X,X的K阶原点矩为 E(Xk)E(X^{k}) X的K阶中心矩为 E([X−E(X)]k)E([X-E(X)]^{k}) 期望实际上是随机变量X的1阶原点矩,方差实际上是随机变量X的2阶中心矩 变异系数(Coefficie

泛用演化计算、通用人工智能优化模型 1万+

基于若依的ruoyi-nbcio-plus支持VForm3表单字段数据保存到数据库的一种方法——全网首创(一)

基于若依的ruoyi-nbcio-plus支持VForm3表单字段数据保存到数据库的一种方法——全网首创(一)

宁波阿成的博客 665

偏度与峰度:数据分布的健康诊断指南

在机器学习与数据分析中,均值和方差仅能描述分布的中心与离散程度,却无法揭示其‘形状性格’。偏度(Skewness)刻画分布的不对称性与方向失衡,反映极端值对模型预测的潜在扭曲;峰度(Kurtosis)则量化尾部风险浓度,直接关联模型鲁棒性与异常敏感度。二者同属高阶矩统计量,是特征工程、模型诊断与数据质量监控不可或缺的基础工具。实际应用中,它们常用于识别右偏消费金额、厚尾风控指标等典型场景,并指导log变换、分位数归一化等关键预处理决策。

weixin_33769125的博客 467

【Oracle】Oracle rman工具使用(真的细)

Oracle RMAN(Recovery Manager)是Oracle数据库备份和恢复的官方工具,它提供的备份和恢复功能非常强大和可靠。RMAN可以备份整个数据库或特定表空间、数据文件、控制文件和归档日志,同时还可以进行增量备份和增量恢复。RMAN还提供了诸如备份验证、备份优化、备份复制、备份集管理、恢复操作、自动备份、自动恢复等高级功能。它使用的备份和恢复格式是Oracle通用的备份集(Backup Set),这使得备份和恢复非常灵活和高效。

tttzzzqqq2018的博客 8506

OCR文字识别基础

ocr文字识别

m0_47405013的博客 1755
上一篇: 关于HashMap很好的博文-推荐
下一篇: 三种工具绘制errorbar图
It_BeeCoder
博客等级 码龄10年 967粉丝 238原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值