永远不要测试某个特定的浮点数值

本文探讨了使用浮点数进行精确比较的问题,并指出由于浮点数值的精度限制,直接比较两个浮点数是否相等的做法可能导致错误的测试结果。文章通过示例说明了为何0.1加0.2不等于0.3的原因。
让我们来一起看看这几行code
if(a+b==0.3){
alert("you got 0.3");
}  //这样的测试是不及格的。
因为浮点数值的最高精度是17位小数,如果两个数是0.05和0.025,或者是两个0.15不会出现问题。
但是如果是0.1和0.2,则测试无法通过。所以永远不要测试某个特定的浮点数值。

转载于:https://www.cnblogs.com/Yirannnnnn/p/4664578.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值