JS的浮点数计算不正确问题解决方案

最新推荐文章于 2021-07-25 11:15:21 发布

Ray_20160915

最新推荐文章于 2021-07-25 11:15:21 发布

阅读量774

点赞数

CC 4.0 BY-SA版权

分类专栏： # html/css/js 文章标签：精度丢失浮点数 js

原文链接：https://blog.youkuaiyun.com/u012143360/article/details/53148591

html/css/js 专栏收录该内容

17 篇文章

订阅专栏

本文探讨了JavaScript中由于二进制表示导致的浮点数运算精度问题，并提供了一个通过转换浮点数为整数进行计算，再调整返回正确浮点数结果的解决方案。此外，文章还指出此问题并非JS独有，C++/C#/Java等语言也有类似问题，但已封装方法避免。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

最近在项目上就有遇到由于js精度问题导致的浮点数的加减乘除结果不正确的问题。如下：

0.1 + 0.2 
=> 0.30000000000000004

6.8 -0.9
=> 5.8999999999999995

7 * 0.8
=> 5.6000000000000005

5.6 / 0.8
=> 6.999999999999999

其实这是因为计算机内部计算，都是使用2进制数，而当js将我们使用的10进制转化为2进制数时，由于其遵循IEEE 754的国际标准，无法精确表示这种包含小数点的数据，因此JS将浮点数转换成了用二进制表示的最接近的近似值，这步操作就是导致误差的原因。

解决方案是：定一个函数对计算结果进行转换和处理：通过将浮点数转换成整数进行计算，然后再将整数的小数点位调整，转回正确的浮点数结果。

Math.formatFloat = function (f, digit) {
    var m = Math.pow(10, digit);
    return Math.round(f * m, 10) / m;
}

Math.formatFloat((0.1 + 0.2), 1)
=> 0.3

Math.formatFloat((6.8 -0.9), 1)
=> 5.9

Math.formatFloat((7 * 0.8), 1)
=> 5.6

Math.formatFloat((5.6 / 0.8), 1)
=> 7

另外要注明的是：

浮点数运算精度丢失问题并不是js独有的！

只是诸如 C++/C#/Java 这些语言中已经封装好了方法来避免精度的问题

参考链接：

1、JavaScript 浮点数精度之谜

2、JS的浮点数计算精度丢失问题解决方案