python计算小数_python执行精确的小数计算方法

在进行浮点数计算时它们无法精确表达出所有的十进制小数位。

a = 4.1

b = 5.329

print(a+b)

9.428999999999998

这些误差实际上是底层cpu的浮点运算单元和ieee754浮点数算数标准的一种“特性”。python的浮点数类型保存的数据采用的是原始表示形式，因此使用float实例时就不能避免这样的误差。

我们可以使用decimal模块避免这种操作(如果不介意牺牲下性能)：

from decimal import decimal

a = decimal('4.1')

b = decimal('5.329')

print(a+b)

9.429

注意decimal的参数必须是字符串，不能是浮点型，否则误差依旧存在。

decimal模块的主要功能是允许控制计算过程中的各个方面，包括数字的尾数和四舍五入。

from decimal import decimal

from decimal import localcontext

a = decimal(4.1)

b = decimal(5.329)

print(a/b)

print('================')

with localcontext() as ctx:

ctx.prec = 3

print(a/b)

0.7693751172827922400071261708

================

0.769

getcontext也可以实现和localcontext一样的功能

from decimal import decimal, getcontext

a = decimal(4.1)

b = decimal(5.329)

getcontext().prec = 3

print(a/b)

0.769

误差我们不能完全消除，我们只能尽力优化算法，使得误差尽可能小。在大数和小数相加时要格外注意。

nums = [3.21e+18, 1, -3.21e+18]

print(sum(nums))

print('=========================')

import math

res = math.fsum(nums)

print(res)

0.0

=========================

1.0

以上这篇python执行精确的小数计算方法就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持萬仟网。

如您对本文有疑问或者有任何想说的，请点击进行留言回复，万千网友为您解惑！