Python 浮点数精度 “陷阱”,四大法宝带你突围
一、浮点数精度问题大揭秘
在Python编程的奇妙世界里,我们常常会遇到一些让人摸不着头脑的现象。比如,当我们执行下面这段简单的代码时:
print(0.1 + 0.2 == 0.3) # 输出: False
print(0.1 + 0.2) # 输出: 0.30000000000000004
本以为 0.1 + 0.2
理所应当等于 0.3
,可结果却让我们大跌眼镜。这背后的原因在于计算机处理小数的方式。计算机使用二进制浮点数来表示小数,然而像 0.1
和 0.2
这样的十进制数,在二进制中却是无限循环小数。由于计算机的存储空间有限,只能存储它们的近似值,这就导致了精度的丢失。这种精度问题在简单的计算中可能看似微不足道,但在一些对精度要求极高的场景,如金融计算、科学实验等,却可能引发严重的后果。
二、法宝一:倍数放大变身法
原理剖析
这个方法的核心思想就像是给浮点数施了一个魔法,让它们“变身”为整数进行运算。通过将浮点数乘以一个合适的倍数,把小数部分转换为整数部分,然后进行整数运算。因为整数运算在计算机中是精确的,这样就避免了二进制精度问题的干扰。运算完成后,再将结果除以相同的倍数,还原成原来的浮点数形式。
代码实战
def float_to_int(x, precision=4):
"""将浮点数按指定精度放大为整数"""
return int(round(x * 10**precision))
# 示例:计算 0.1 + 0.2
scale = 10**4 # 保留4位小数精度
a = float_to_int(0.1, 4)
b = float_to_int(0.2, 4)
result = (a + b) / scale
print(result ==