如何优雅的解决js数字计算精度问题

在JavaScript中,由于浮点数的二进制表示导致0.1+0.2不等于0.3。本文探讨了这个问题的原因,指出计算机使用二进制存储浮点数时产生的无限循环小数问题,并提出了解决方案。通过使用toFixed()方法保留四位小数,然后用parseFloat()去除多余的0,可以确保0.1+0.2等于0.3。在实际开发中,理解这种精度误差并合理处理是至关重要的。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

在js计算数浮点小数的时候,会产生无线不循环小数,比如我们正常在计算0.1+0.2时,正常结果应该是0.3,但是使用js计算时会出现如下结果:

let a = 0.1, b = 0.2
console.log(a + b) // 0.30000000000000004

我们发现 0.1 + 0.2 !== 0.3
计算机是通过二进制的方式存储数据的,所以计算机在计算0.1+0.2的时候,实际上是计算两个数字的二级制的和,0.1的二进制是0.000110011001100…(1100循环),0.2的二进制是0.00110011001100…(1100循环),这两个数字的二进制都是无线循环的数
一般我们认为数字包括整数和小鼠,但是在js种只有一种数字类型,Number,它遵循的是标准的双精度浮点数,在二进制科学表示法种,双进度浮点数的小数部分最多保留52位,再加上前面的1,其实就是保留53位有效数字,剩余的需要舍去,遵循“0舍1入”的原则。
根据这个原则,0.1和0.2的二进制数相加,再转化为十进制数字就是:0.30000000000000004。

我们在实际开发过程中,使用的是自然数算法,与计算机二进制算法不太一样,导致算出来的结果会有出入,
我们应该如何实现0.1 + 0.2 = 0.3 呢

首先,在实际业务场景中,一般最多保留小数点后四位,多余部分四舍五入,我们可以使用js的toFixed()方法,先保留小数点后四位,得到结果为 0.1+0.2 = 0.3000

let a = 0.1, b = 0.2, c
console.log(a + b) // 0.30000000000000004
c = a + b
console.log(c.toFixed(4)) // 0.3000

然后再对得到的结果使用parseFloat方式,可以去掉多余的0

let a = 0.1, b = 0.2, c
console.log(a + b) // 0.30000000000000004
c = a + b
console.log(c.toFixed(4)) // 0.3000
console.log(parseFloat(c.toFixed(4))) // 0.3

即可得到我们想要的结果。

tips:此方法只是我在开发中使用到的方法,如有更好的方法,欢迎留言讨论。

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值