python浮点数计算的问题
python不建议直接将两个浮点数进行精确的计算,因为python中的浮点数计算存在一个误差问题,例如:
出现这种问题的原因是,计算机中保存数字的寄存器是使用二进制来保存数字的,有的有限十进制小数只能使用无限的二进制小数表示。
首先看一下将十进制小数转换为二进制的过程为:
将小数乘以2,取出整数部分作为二进制表示的第1位;然后再将小数部分乘以2,将得到的整数部分作为二进制表示的第2位;以此类推,直到小数部分为0。
例如【5.20-5】的结果是0.2时,使用二进制表示就是:0.0011 0011 0011…
是个无限循环小数。
而内存只会划分有限的空间来保存一个小数,所以当我们想要保存这个0.2的数字时,只会截取二进制数字中的一部分来保存,而当我们重新通过被截取的二进制数字来计算对应的十进制数字,就会产生误差。
当然不是所有浮点数计算结果都会产生这种误差,例如十进制小数0.25可以使用有限的二进制小数表示,所以当浮点数的计算结果是这些数时就不会有误差:
python如何解决浮点数计算误差
方法一:
如果你只希望浮点数精确到某个精度即可,那可以使用浮点数自带的精度计算。
方法二:
也可以使用round()函数,直接四舍五入。如果round()函数中不指定第二个参数的话,默认四舍五入到整数位,否则精度最多保存到第二个参数长度的小数位:
In [1]: 4 - 3.6
Out[1]: 0.3999999999999999
In [2]: round(4 - 3.6)
Out[2]: 0.0
In [3]: round(4-3.6,2)
Out[3]: 0.4
In [4]: round(4-3.6,5)
Out[4]: 0.4
In [5]: round(2.55555,3)
Out[5]: 2.556
In [6]: round(2.555,30)
Out[6]: 2.555
In [7]: round(2.5) #注意这个从python3开始是向偶数看齐,即整数部分为偶数时舍弃小数部分,为奇数时进一位
Out[7]: 3.0 #python3输出为2
In [8]: round(3.5)
Out[8]: 4.0
方法三:
使用decimal模块:
注意,decimal函数中的参数是字符串。
另外Decimal
的引入申明为:
from decimal import Decimal
参考:
https://blog.youkuaiyun.com/xiaodongxiexie/article/details/54933753