Python浮点数数据精度控制

最新推荐文章于 2023-04-07 18:15:33 发布

原创最新推荐文章于 2023-04-07 18:15:33 发布 · 636 阅读

0 ·

CC 4.0 BY-SA版权

Python3 专栏收录该内容

23 篇文章

订阅专栏

本文探讨了Python中使用decimal模块处理浮点数精度的方法，通过设置不同的精度，演示了如何精确控制浮点数的运算结果，这对于财务计算等场景至关重要。

代码

import decimal
from decimal import Decimal, getcontext

if __name__ == '__main__':
    decimal.getcontext().prec = 2
    for i in range(4):
        x = i / 3
        print()
        print(x)
        print(decimal.Decimal(x))
        print("%0.2f"%x)
        print(eval("'%0." + str(a) + "f'" + "%x"))
        print(float("%0.2f"%x))

0.0
0
0.00
0.00
0.0

0.3333333333333333
0.333333333333333314829616256247390992939472198486328125
0.33
0.33
0.33

0.6666666666666666
0.66666666666666662965923251249478198587894439697265625
0.67
0.67
0.67

1.0
1
1.00
1.00
1.0