RuntimeWarning -- 记EM算法踩的坑

最新推荐文章于 2025-02-27 20:13:24 发布
最新推荐文章于 2025-02-27 20:13:24 发布
阅读量3.4k 收藏 1
点赞数
分类专栏： 问题解决 自然语言处理 文章标签： HMM EM
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/Jiaach/article/details/79916563
版权
探讨Baum-Welch算法在大量数据训练时出现的nan和inf问题及可能的原因，涉及计算溢出和除数为0的情况。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

在实现Baum_Welch算法过程中，能够训练小数据量参数，但是如果数据量增加时，多次迭代后会出现nan的数据。并且会报以下错误：

RuntimeWarning: invalid value encountered in reduce
RuntimeWarning: overflow encountered in true_divide
RuntimeWarning: invalid value encountered in multiply
RuntimeWarning: invalid value encountered in double_scalars

产生这个原因时因为计算溢出。
初步认为可能是存在除数为0。
调试发现，首先出现了inf，接着出现nan。

在宗成庆老师的NLP课上，提及容易出现小数溢出的问题。

从零开始构建机器学习平台——架构设计、模块拆解及实现方案
AI天才研究院
08-10 1179
概述在当今数据驱动的时代,机器学习已经成为众多行业和领域的核心技术。然而,构建一个完整、高效且可扩展的机器学习平台仍然是一项复杂的工程挑战。从数据收集和预处理,到模型训练、评估和部署,再到持续监控和优化,每个环节都需要精心设计和实现。本文旨在为读者提供一个全面的指南,详细介绍如何从零开始构建一个功能完备的机器学习平台。我们将深入探讨平台的整体架构设计,各个关键模块的功能和实现,以及在实际开发过程中可能遇到的挑战和解决方案。
开发知识点-C++之win32与NT内核
aming小老弟
03-07 747
VC++远控编程班www.zygx8.com 61201860605658096586599275746120931930648561639269 123。红队专题-从零开始VC++C/S远程控制软件RAT-MFC-VC驿站VIP之C++远控班bbs.176ku.com免费看。IShellExtInit接口初始化shell扩展。老狼GHOST内核编程全套。
MATLAB有用的混合高斯EM算法，害怕以后找不到
jie3212的专栏
09-10 2380
<br /><br />1<br />X=   zeros(600,2);<br /> 2<br />X(1:200,:) = normrnd(0,1,200,2);<br /> 3<br />X(201:400,:) = normrnd(0,2,200,2);<br />4<br />X(401:600,:) = normrnd(0,3,200,2);<br />5<br />[W,M,V,L] = EM_GM(X,3,[],[],1,[])<br />下面是程序源码：<br />查看源代码<br /><
RuntimeWarning: invalid value encountered in multiply
baidu_39589112的博客
08-31 2288
出现问题的原因是P这个矩阵里存在0，所以算log的时候就会出现第一个警告，而且计算结果为-inf，然后-inf又去和P相乘，就出现了第二个警告。
RuntimeWarning: invalid value encountered in scalar power在进行标量的幂运算时遇到了无效值
buw369521的博客
02-27 723
2. **除以零**：如果 `initial_cash` 为 `0` ，那么 `profit / initial_cash` 会得到 `inf`（无穷大）或者当 `yy` 为 `0` 时，`1 / yy` 也会得到 `inf` ，后续的幂运算就可能出现无效值情况。但是在复数范围内是可以表示的，例如在复数范围内-4的平方根是2i和-2i。3. **数据类型问题**：如果 `profit`、`initial_cash` 或 `yy` 的数据类型不合适，导致运算结果不准确，也可能引发该警告。
python 报错 invalid value 2_【python】错误解决经历
weixin_39889337的博客
12-09 1692
【持续更新】python1、【RuntimeWarning: invalid value encountered in multiply】{乘法中遇到无效值，比如 inf 或者 nan 等} {其他invalid问题类似}2、【non-default argument follows default argument】{原因是将没有默认值的参数在定义时放在了有默认值的参数的后面} →→解决→→{将...
python---之遇到的错误
zxyhhjs2017的博客
08-10 3785
RuntimeWarning: overflow encountered in reduce arrmean = umr_sum(arr, axis, dtype, keepdims=True) 这个错误是我在用np.std()对45万个33X33的块求标准差的时候出现的， 原因是我是我的图像块是float16的，又由于我图像块内部的数字比较大，虽然使用np.mean()的时候没有出现溢...
修复该代码错误，参考报错： e:\桌面\daima\01.py:67: RuntimeWarning: divide by zero encountered in scalar divide a_init = np.sqrt( (2*M2**2 - M4) / (Es4 - 1) ) e:\桌面\daima\01.py:82: RuntimeWarning: invalid value encountered in scalar multiply exponent = -np.abs(r - a * np.exp(1j*phi) * s)**2 / (2*sigma2) e:\桌面\daima\01.py:82: RuntimeWarning: invalid value encountered in divide exponent = -np.abs(r - a * np.exp(1j*phi) * s)**2 / (2*sigma2) e:\桌面\daima\01.py:83: RuntimeWarning: invalid value encountered in log log_delta_jm = exponent - np.log(2*np.pi*sigma2) Traceback (most recent call last): File "e:\桌面\daima\01.py", line 196, in <module> a_est, sigma2_est, phi_est, iter_em = em_algorithm(r, constellation) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ File "e:\桌面\daima\01.py", line 84, in em_algorithm delta[:, m] = np.exp(log_delta_jm - logsumexp(log_delta_jm, axis=1, keepdims=True)) ^^^^^^^^^^^^^^^^^^^^
最新发布
04-12
嗯，用户遇到了Python代码中EM算法实现的RuntimeWarning和Traceback错误，包括除以零、无效的标量乘除和对数运算，还有logsumexp的问题。我需要帮他分析可能的原因，然后给出解决方案。 首先，RuntimeWarning通常是...
Linux之安全最佳做法（未完成）
企业实战系列集 ●●● https://ximenjianxue.blog.youkuaiyun.com
11-12 2430
一直跟Linux打交道，但是凡事多扰，一直未专门针对系统安全做过针对性总结，基于此，本文将记录总结一些Linux 安全配置过程中的常用实践，最后梳理成为安全最佳实践。
Connected to pydev debugger (build 241.17890.14) D:\anaconda3\envs\pytorch-gpu\lib\site-packages\pandas\core\arraylike.py:399: RuntimeWarning: invalid value encountered in sqrt result = getattr(ufunc, method)(*inputs, **kwargs) D:\anaconda3\envs\pytorch-gpu\lib\site-packages\numpy\core\fromnumeric.py:88: RuntimeWarning: invalid value encountered in reduce return ufunc.reduce(obj, axis, dtype, out, **passkwargs) Traceback (most recent call last): File "D:\anaconda3\envs\pytorch-gpu\lib\contextlib.py", line 137, in __exit__ self.gen.throw(typ, value, traceback) File "D:\anaconda3\envs\pytorch-gpu\lib\site-packages\sklearn\_config.py", line 374, in config_context yield File "D:\anaconda3\envs\pytorch-gpu\lib\site-packages\sklearn\base.py", line 1389, in wrapper return fit_method(estimator, *args, **kwargs) File "D:\anaconda3\envs\pytorch-gpu\lib\site-packages\sklearn\decomposition\_pca.py", line 442, in fit self._fit(X) File "D:\anaconda3\envs\pytorch-gpu\lib\site-packages\sklearn\decomposition\_pca.py", line 505, in _fit X = validate_data( File "D:\anaconda3\envs\pytorch-gpu\lib\site-packages\sklearn\utils\validation.py", line 2944, in validate_data out = check_array(X, input_name="X", **check_params) File "D:\anaconda3\envs\pytorch-gpu\lib\site-packages\sklearn\utils\validation.py", line 1107, in check_array _assert_all_finite( File "D:\anaconda3\envs\pytorch-gpu\lib\site-packages\sklearn\utils\validation.py", line 120, in _assert_all_finite _assert_all_finite_element_wise( File "D:\anaconda3\envs\pytorch-gpu\lib\site-packages\sklearn\utils\validation.py", line 169, in _assert_all_finite_element_wise raise ValueError(msg_err) ValueError: Input X contains NaN. PCA does not accept missing values encoded as NaN natively. For supervised learning, you might want to consider sklearn.ensemble.HistGradientBoostingClassifier and Regressor which accept missing values encoded as NaNs natively. Alternatively, it is possib
04-03
在引用[4]中提到，PPCA算法使用EM算法进行参数估计，这可能与处理缺失值有关。PPCA（Probabilistic PCA）能够处理缺失数据，因为它通过EM迭代估计参数，可能在存在缺失值时仍然有效。不过，用户的问题是关于标准PCA...
解决RuntimeWarning: invalid value encountered in true_divide
热门推荐
baidu_41836513的博客
07-02 4万+
解决RuntimeWarning: invalid value encountered in true_divide 在运行程序时出现RuntimeWarning: invalid value encountered in true_divide的警告，可能是在使用numpy时出现了0除以0的情况造成的。 解决方法： import numpy as np np.seterr(divide='ignore',invalid='ignore') ...
baum welch java_显示对数似然的Baum-Welch算法：NaN BIC标准：NaN AIC标准：NaN
weixin_29597551的博客
02-17 207
我正努力在Bauch-Welch算法中获得收敛，但由于Log-likelihood，AIC，BIC显示NaN，因此无法做到这一点 . 我的数据只包含一列 . 在这方面请帮助我，我将非常感谢你 . 详细代码如下library(RHmm)obshm_model print (hm_model)Call:----HMMFit(obs = obs, dis = "MIXTURE", nStates = 1...
IDEA无错误爆红，invalid cache无效 解决方法
HunterYoung0718的博客
03-22 2800
背景:开发项目没有错误，但是idea总是提爆红，能够正常编译通过。 清理缓存以后也没有改变。 后续设置Java Complier 的版本一致，再重新将缓存失效得以解决，原因可能是版本有的是1.8，有的是8，导致idea识别是有问题。 ...
RuntimeWarning: invalid value encountered in double_scalars
GXQ的博客
12-08 572
参考：https://blog.youkuaiyun.com/qq_34333481/article/details/85258888 数值运算中出现了分母为0的情况
Python Data Analysis_三维图（RuntimeWarning: divide by zero encountered in log）
caigen0001的专栏
09-08 2774
参考源代码： RuntimeWarning: divide by zero encountered in log Z = np.log(df['gpu_trans_count'].values) from mpl_toolkits.mplot3d.axes3d import Axes3D import matplotlib.pyplot as plt import numpy as np import pandas as pd df = pd.read_csv('transcount.csv..
混合高斯模型（应用和EM算法）
优雅黑曼巴的专栏
12-20 2491
这篇讨论使用期望最大化算法（Expectation-Maximization）来进行密度估计（density estimation）。       与k-means一样，给定的训练样本是，我们将隐含类别标签用表示。与k-means的硬指定不同，我们首先认为是满足一定的概率分布的，这里我们认为满足多项式分布，，其中，有k个值{1,…,k}可以选取。而且我们认为在给定后，满足多值高斯分布，即。由此可
【机器学习】聚类分析（二）——从极大似然估计到EM算法
HerosOfEarth的博客
08-03 6516
本文主要把EM算法的内容及其简单推导交待清楚，为后面实现高斯混合模型的聚类算法做一个铺垫，因此本文不会出现代码。
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值