精度问题

2019独角兽企业重金招聘Python工程师标准>>>

js中计算小数发现:

0.55*100 = 55.00000000000001

0.55 * 10 * 10 = 55

原因：计算机浮点数计算精度问题。 计算机表示小数步骤：

1.转换成二进制(存在精度缺失)

2.用二进制科学计算法表示

3.表示成 IEEE 754 形式(存在精度缺失)

参考链接

转载于:https://my.oschina.net/u/2319418/blog/2873471