JS小数运算精度丢失的问题

高阳很捷迅

于 2023-10-25 11:10:33 发布

阅读量401

点赞数

分类专栏：数据分析前端开发文章标签： JS 小数运算精度算法

本文链接：https://blog.youkuaiyun.com/weixin_43805705/article/details/134030244

版权

本文探讨了JavaScript中小数运算精度丢失的问题，包括0.1 + 0.2 !== 0.3的原因，以及tofixed()在处理小数最后一位为5时的进位错误。分析了浮点数在计算机中的存储方式，指出由于二进制表示的局限性导致的精度问题。解决方案包括使用toPrecision、将小数转成整数运算以及引入第三方库如Math.js和BigDecimal.js。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

工作中会不会经常会碰到一些数据指标的计算，比如百分比转化，保留几位小数等，就会出现计算不准确，数据精度丢失的情况。通过这篇分享借助第三方库能够轻松解决数据精度丢失的问题。

一、场景复现

JS数字精度丢失的一些常见问题

// 加法 =====================
0.1 + 0.2 === 0.3 // false
0.1 + 0.2 = 0.30000000000000004
0.7 + 0.1 = 0.7999999999999999
0.2 + 0.4 = 0.6000000000000001

// 减法 =====================
1.5 - 1.2 = 0.30000000000000004
0.3 - 0.2 = 0.09999999999999998
 
// 乘法 =====================
19.9 * 100 = 1989.9999999999998
0.8 * 3 = 2.4000000000000004
35.41 * 100 = 3540.9999999999995

// 除法 =====================
0.3 / 0.1 = 2.9999999999999996
0.69 / 10 = 0.06899999999999999

为什么0.1 + 0.2 === 0.3是false呢?

先看下面这个比喻

比如一个数 1÷3=0.33333333......

3会一直无限循环，数学可以表示，但是计算机要存储，方便下次取出来再使用，但0.333333...... 这个数无限循环，再大的内存它也存不下