python除法相关

python 除法相关

python3除法取整
  利用"//"操作

a = 5.5
b = 2
print(a//b)

# 结果
2

python3精确减法与精确除法

a = 0.9
b = 1

print(b-a)
print((b-a)/100)
print((0.1)/100)

# 结果
0.09999999999999998
0.0009999999999999998
0.001

python计算要把数字先转为二进制，因为浮点数以二进制形式表示时的有穷性(利用乘K取余法，0.9的二进制无限延展)，会导致计算误差。

这时候为了实现精确运算，可以使用类decimal。

import decimal
decimal.getcontext().prec = 10   # 取小数点后精度到第10位
a = 0.9
b = 1

print(decimal.Decimal(b)-decimal.Decimal(a))
print((decimal.Decimal(b)-decimal.Decimal(a))/100)
print((0.1)/100)

# 结果
0.1000000000
0.0010000000
0.001