本文探讨了浮点数运算中常见的精度问题，并通过Python示例展示了如何使用decimal模块来解决这些问题，确保数值运算的准确性。
代码：
# -*- coding: utf-8 -*-
#浮点数运算越界问题，几乎每一种语言都会遇到：
a = 4.2
b = 2.1
a + b # 6.30000000000001
(a+b) == 6.3 # False
#因此，涉及到运算时应该采用以下方式：
from decimal import Decimal
a = Decimal('4.2')
b = Decimal('2.1')
a + b #Decimal('6.3')
print(a + b) # 6.3
(a+b) == 6.3 #False
(a+b) == Decimal('6.3') #True
扫一扫
818
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
