python cookbook 学习笔记 第三章 数字日期和时间(2) 执行精确的浮点数运算

• 执行精确的浮点数运算
• 问题：
  • 需要对浮点数进行精确的计算，不希望有任何小误差的出现。
• 解决方案：
• 浮点数的一个普遍问题是不能精确的表示十进制数。并且即使是最简单的数学运算也会产生小 的误差，比如：

a = 4.2
b = 2.1

print(a + b)  #6.300000000000001
print(a + b == 6.3)  # False

• 这些错误是由于底层 CPU 和 IEEE754 标准通过自己的浮点单位去执行算术时的特质。由于 Python 的浮点数据类型使用底层表示存储数据，因此没法避免这样的误差。
• 如果想要更加精确(并能容忍一定的性能损耗)，可以使用 decimal 模块。

from decimal import Decimal

a = Decimal("4.2")
b = Decimal("2.1")

print(a + b)    # 6.3
print(a + b == Decimal("6.3"))  # True

• 初看起来，上面的代码好像有点奇怪，比如用字符串来表示数字。然而 Decimal 对象会像普 通浮点数一样的工作(支持所有的常用数学运算)。如果打印他们或者在字符串格式化函数中使 用它们，看起来跟普通数字没什么两样。

• decimal 模块的一个主要特征是允许你控制计算的每一方面，包括数字位数和四舍五入运算。

• 为了这样做，先得创建一个本地上下文并更改它的设置。比如：

from decimal import localcontext

a = Decimal("1.3")
B = Decimal("1.7")

print(a/b)   # 0.6190476190476190476190476190

with localcontext() as ctx:
    ctx.prec = 3
    print(a/b)   # 0.619

with localcontext() as ctx:
    ctx.prec = 50
    print(a/b)   # 0.61904761904761904761904761904761904761904761904762

• 讨论： decimal 模块实现了IBM 的“通用小数运算规范”。
• Python 新手会倾向于使用 decimal 模块来处理浮点数的精确运算。然而，先理解你的应用程 序目的是非常重要的。如果是在做科学计算或者工程领域的计算、电脑绘图，或者科学领域的大多 数运算，那么使用普通的浮点类型是比较普遍的做法。其中一个原因是，在真实世界很少会要求精 确到普通浮点数能提供的17位精度。因此，计算过程中的那么一点点误差是被允许的。第二点是， 原生的浮点数计算要快的多。 即便如此，你却不能完全忽略误差。

nums = [1.23e+18, 1, -1.23e+8]
print(sum(nums))  # 1.229999999877e+18 (书行的运行结果给的 0)
import math
print(math.fsum(nums))  # 1.229999999877e+18 (书上的运行结果给的是 1)