关于js小数计算的问题

博客探讨了JS浮点运算的误差问题。通过代码示例“var a=0.2 - 0.1; var b=0.3 - 0.2;”,很多人认为“a==b”结果为true,但实际运行并非如此。原因是JS运算时会转成二进制,导致浮点有误差,如0.3 - 0.2结果近似0.1但不等于。

在js浮点运算中

var a=0.2-0.1;

var b=0.3-0.2;

console.log(a==b);

答案是什么呢,很多人可能认为是true,包括我在内,但是当我写出来运行了一下,我被答案惊呆了,上图

小伙伴们,惊呆了有木有!

然后我赶紧问度娘,然后终于找到了答案,原来js运算的时候是要转成二进制的,这样的话浮点就会有误差,0.3-0.2就是0.09999999999999998,非常近似0.1,所以a最终不等于b

转载于:https://www.cnblogs.com/bjjjunjie/p/3948766.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值