js中浮点数的问题

js采用IEEE-745浮点数表示法,这是一种二进制表示法。但是有许多小数用二进制来表示是无限循环的,因此js中64位的存储并不能很精确地表示一些小数。就会导致如下情况:

0.1+0.2 === 0.3;  //false

那么如何来判断上述式子为true呢?
最常见的方法是设置一个误差范围值,通常称为机器精度。对js的数字来说,这个值通常是2^-52.

从ES6开始,这个值被定义在Number.EPSILON中,我们可以直接拿来用,也可以为ES6之前的版本写polyfill:

if(!Number.EPSILON){
    Number.EPSILON = Math.pow(2,-52)
}

可以用Number.EPSILON来比较两个数字是否相等(在指定的误差范围内):

function nearlyEqual(n1,n2){
    return Math.abs(n1-n2)<Number.EPSILON;
}

var a = 0.1+0.2;
var b = 0.3;

nearlyEqual(a,b);  //true
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值