python利用Decimal处理浮点数计算的精度问题

最新推荐文章于 2025-04-28 08:00:00 发布
最新推荐文章于 2025-04-28 08:00:00 发布
阅读量2.1k 收藏 6
点赞数 4
分类专栏： Python - 基础
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/Victor2code/article/details/108650118
版权

之前在学习Django中ORM的时候，一直不明白怎么有一个数据类型叫Decimal。直到最近在一个项目中遇到了小数点计算的问题，发现要解决小数计算的精度问题，还真得用到这个Decimal不可。

文章目录

问题描述

浮点数在内存中存储的时候因为存储机制的原因，天然存在精度丢失的现象，具体原因这里不赘述了，感兴趣的朋友可以参考另一篇博客《浮点型数据精度丢失实例详解》。

a=2.2
a*3
Out[16]: 6.6000000000000005

本来期望的结果是6.6，结果小数点后多出来一长串。如果是对数字不敏感的项目其实是没问题的，但是如果涉及到金融领域，例如电商的购物车价格计算，银行余额的计算，小数点后10几位多个5也都是不能容忍的。

所以有能力精确进行浮点数计算还是有必要的。

解决办法

最低0.47元/天 解锁文章
Python 进阶（十一）：高精度计算（decimal 模块）
水滴的博客
11-26 7597
decimal模块提供了一种精确计算浮点数的方法，解决了浮点数精度问题。通过导入decimal模块、设置精度、创建Decimal对象、进行基本运算和比较运算，以及使用常用函数，我们可以实现精确的数值计算。在使用decimal模块时，需要注意保持一致使用Decimal对象，并避免除数为零的情况。
[Python]关于浮点数计算时的误差问题及其解决方法
Persona_LXY的博客
09-30 2015
而内存只会划分有限的空间来保存一个小数，所以当我们想要保存这个0.2的数字时，只会截取二进制数字中的一部分来保存，而当我们重新通过被截取的二进制数字来计算对应的十进制数字，就会产生误差。浮点数一个普遍的问题就是在计算机的世界中，浮点数并不能准确地表示十进制。并且，即便是最简单的数学运算，也会带来不可控制的后果。然后再将小数部分乘以2，将得到的整数部分作为二进制表示的第2位；，这导致了在计算过程中精度的丢失。，有的有限十进制小数只能使用无限的二进制小数表示。出现这种问题的原因是，计算机中保存数字的寄存器是。
Python浮点数舍入（ROUND）方式总结（学习笔记）(2)
2401_84009130的博客
04-12 429
这种舍入方法的规则是：如果数字与两边（相同位数）的数字相等，就向偶数方向舍入，如果不相等，就是就近舍入。，要看5前面的数字，若是奇数则进位，若是偶数则将5舍掉，即修约后末尾数字都成为偶数；若5的后面还有不为“0”的任何数，则此时无论5的前面是奇数还是偶数，均应进位。就近舍入，如果与两边的数距离相等，向0方向舍入。的意思，就是向下舍入，下的方向，在数轴上是向着负无穷的方向。从这里开始，后续所有的舍入方法，都只在decimal模块中支持。python内置的round函数，采用的就是。floor是地板的意思，
pandas 小数位数 精度的处理
热门推荐
正在编程
01-19 4万+
控制台打印double时显示的小数位数和实际修改数据精度
Python 高精度计算神器：decimal 库的终极指南
最新发布
kymppcds的博客
04-28 375
（崩溃）我的财务系统 0.1 + 0.2 = 0.30000000000000004！怎么办？：（掏出计算器）！
python数据分析性能提升之谨慎使用Decimal类型
S_o_l_o_n的博客
04-13 1552
在用python处理数据时，尤其是金融数据，由于浮点数的不精确性（具体原因看这里），有时候为了追求精确性，我们会选择decimal标准库的Decimal数据类型来表示数值。但是要注意的是，Decimal数据类型相比于float类型，在各种计算中，会额外的消耗较多时间，特别是在处理大量的数据时，Decimal带来的性能下降是相当大的，甚至会把程序的运行时间提升一个量级。所以，在处理大量...
pandas读取数据库整数形式的19位数据长度的float类型精度大坑！！！！
Q632655672的博客
08-06 1649
pandas读取数据库order订单表，字段userid在mysql里是bigint19位数字，用pandas.read_sql()连接后，因为userid有空值，也就是nan，会把这个userid列转为float类型，获得的数据精度丢失 之前我盲目的看网上教程，说什么把float→int64，或者float→str，结果都不行，因为获取的数据就是6结尾，最后我想到一个办法就是源头错误那就源头解决，读取数据库的时候筛选非空行 df=pd.read_sql('select * from table wher
c语言float类型精度丢失,float,double,decimal彼此转换会出现的精度有关问题（今天你Bug了吗？）...
weixin_39714763的博客
05-19 2220
float,double,decimal彼此转换会出现的精度问题(今天你Bug了吗？)在一开始先说明下，此处的精度问题并不包含数字过大、强转溢出之类导致的问题，主要说明三者之间比较或计算时容易产生的精度问题，以避免开发中莫名其妙的数据问题。大学时学的是C语言，虽然就没学会过，但对于float和double的描述还是记的很清楚，float和double因为采用科学记数法，会出现精度问题，要比较的话，...
Python 浮点数精度 “陷阱”，四大法宝带你突围
ROGERLEE- Python场景式编程学习与训练
02-06 1029
四大攻略带你突破浮点数精度陷阱
关于Python中浮点数精度处理的技巧总结
09-21
处理Python中的浮点数精度问题，可以根据具体需求选择合适的方法。`round`简单易用，但精度有限；`decimal`模块则提供了更精确的控制，适合需要高精度计算的场景。了解这些技巧，可以帮助开发者更好地应对浮点数精度...
python 小数点精度_Python 3浮点小数点/精度 - python
weixin_39658900的博客
11-29 355
我正在读取一个带有浮点数的文本文件，这些数字都带有1或2个小数点。我正在使用float()将行转换为浮点数，并在失败的情况下引发ValueError。我将所有花车存储在列表中。打印时，我想将其打印为2个小数位的浮点数。假设我有一个文本文件，其编号为-3,65,9,17,1。我阅读了每个文件，然后将它们转换为float并将它们附加到列表中。现在在Python 2中，调用float(-3.65)返回-...
Pandas数据分析中常见的浮点数精度损失问题详解
devid008的博客
06-12 2431
在使用Pandas进行数据分析计算时，我们经常会遇到由于浮点数精度损失导致的问题。这是因为在计算机中，浮点数是一个有限精度的类型，无法精确表示所有的实数。这会导致浮点数计算时产生舍入误差和精度损失，进而影响计算的正确性。
【python-pandas】python中对padans的DataFrame做四舍五入+两位小数保留操作
qq_40929625的博客
05-25 2805
因需要高精度处理，不能使用四舍六入五成双，下面提供一个模板，请自取 python中对padans的DataFrame做四舍五入+两位小数保留操作 数据帧：已知的df 模板： from decimal import Decimal df=pd.DataFrame() df1 = df.to_dict(orient='list', ) for k, v in df1.items(): # 遍历字典 for j, l in enumerate(v): # 遍历值list a = Dec
Decimal模块对dataframe列进行四舍五入
lx104921的博客
01-16 875
Decimal('0')保留整数，不要小数（0.0一位小数；0.00两位小数）；先进行Decimal实例化，然后通过quantize方法四舍五入保留整数位。（2）假设对dataframe的average_age列应用。apply方法可以对该列的每个值都进行四舍五入操作。ROUND_HALF_UP四舍五入，对.5也进一。
pandas提供的 to_numeric 方法使用中遇到的坑
qq_39314099的博客
11-14 1万+
业务逻辑是需要将一个csv读入，然后进行一些处理，比如对多个元素求和、求方差等等。要求忽略非数值型数据，而pandas的忽略数值型是整行整列的忽略，所以自然不能满足我的业务要求。于是，我这里的方案是先取出要计算的元素，然后进行数据清洗，再进行计算。 这里就会存在一个问题，浮点数的问题。众所周知，浮点数在计算机中是没有办法完全精确表示的。所以会有保留精度。 这在调用 pandas的内置方法 to...
Django 操作使用MySQL
小胖_@的博客
09-19 597
Django 操作使用MySQL 1.在Django项目中的settings.py添加字段 DATABASES = { 'default': { 'ENGINE': 'django.db.backends.mysql', 'NAME': 'pythondb', # 数据库名 'USER': 'root', # 连接MySQL用...
python float 精度 处理
walk slow down
04-09 4299
way1:Decimal 示例代码： from decimal import Decimal numStr = '1.13' print('====a', Decimal(numStr) * Decimal('1e8')) print('====b', Decimal(numStr) * Decimal(1e8)) print('====c', Decimal(float(numStr)) * Decimal('1e8')) print('====d', Decimal(float(numStr).
Python中decimal.Decimal类型和float类型比较
weixin_43035074的博客
04-08 1万+
1，class 'decimal.Decimal' 转换成float类型 例如：四色五入，保留两位小数 传入参数可以为字符串也可以为整数 num01= Decimal(2.333).quantize(Decimal('0.00')) 此时 num01 类型为'decimal.Decimal' ,需要转化成float类型在与浮点型作比较； num01 = float(num01) 2，...
python decimal 转 float_python教程之二python数学运算
weixin_39788131的博客
01-24 1425
存储数据变量#两个变量交换值，通过第三个参数实现print('两个变量交换值，通过第三个参数实现'); #第一种方法是通过第三个参数实现x=5;#变量赋值y=11; #变量赋值print('交换前',x,y);temp=x;x=y;y=temp;print('交换后',x,y);#两个变量交换值，更便捷的方法print('两个变量交换值，更便捷的方法');x,y=100,200;prin...
Python中如何处理浮点数精度问题？
10-22
在Python中，由于浮点数的存储形式是基于二进制小数，这可能导致某些数学运算的结果存在微小的精度误差。这是因为计算机无法精确地表示所有实数。当你进行浮点数比较时，如`a == b`，可能会因为这种精度问题而得到False结果。 为了处理浮点数的精度问题，可以采取以下策略： 1. 使用`math.isclose()`函数：这个函数会检查两个浮点数是否在给定的绝对和相对误差范围内相等。例如： ```python from math import isclose a = 0.1 + 0.2 b = 0.3 if isclose(a, b, abs_tol=1e-9, rel_tol=1e-9): print("数值接近") ``` 这里`abs_tol`和`rel_tol`分别指定了绝对误差和相对误差阈值。 2. 避免不必要的精确度要求：如果不需要精确到小数点后的每一位置，尽量使用`round()`函数简化结果。 3. 使用decimal模块：如果你需要更高的精度，可以导入`decimal`模块，它提供了一种固定精度的十进制计算。 尽管如此，仍需谨慎处理，因为并非所有的精度问题都可以完全避免，特别是涉及无穷大、无穷小或特殊数的情况。
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值