javascript中的浮点数运算

最新推荐文章于 2023-12-05 13:22:11 发布

转载最新推荐文章于 2023-12-05 13:22:11 发布 · 67 阅读

文章标签：

#javascript #ViewUI

本文解析了JavaScript中0.1+0.2不等于0.3的现象，并提供了两种解决方法来确保浮点数计算的准确性。介绍了JavaScript浮点数采用IEEE-754标准，解释了二进制表示下0.1、0.2这类十进制分数为何会产生舍入误差。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

解释一下下面代码的输出

console.log(0.1 + 0.2); //0.30000000000000004
console.log(0.1 + 0.2 == 0.3); //false

JavaScript 中的 number 类型就是浮点型，JavaScript 中的浮点数采用IEEE-754 格式的规定，这是一种二进制表示法，可以精确地表示分数，比如1/2，1/8，1/1024，每个浮点数占64位。但是，二进制浮点数表示法并不能精确的表示类似0.1这样的简单的数字，会有舍入误差。
由于采用二进制，JavaScript 也不能有限表示 1/10、1/2 等这样的分数。在二进制中，1/10(0.1)被表示为 0.00110011001100110011…… 注意 0011 是无限重复的，这是舍入误差造成的，所以对于 0.1 + 0.2 这样的运算，操作数会先被转成二进制，然后再计算：

0.1 => 0.0001 1001 1001 1001…（无限循环）
0.2 => 0.0011 0011 0011 0011…（无限循环）

双精度浮点数的小数部分最多支持 52 位，所以两者相加之后得到这么一串 0.0100110011001100110011001100110011001100…因浮点数小数位的限制而截断的二进制数字，这时候，再把它转换为十进制，就成了 0.30000000000000004。
对于保证浮点数计算的正确性，有两种常见方式。

一是先升幂再降幂：

function add(num1, num2) {
    var r1, r2, m;
    r1 = ('' + num1).split('.')[1].length;
    r2 = ('' + num2).split('.')[1].length;

    m = Math.pow(10, Math.max(r1, r2));
    return (num1 * m + num2 * m) / m;
}
console.log(add(0.1, 0.2)); //0.3
console.log(add(0.15, 0.2256)); //0.3756

二是是使用内置的 toPrecision() 和 toFixed() 方法，注意，方法的返回值字符串。

function add(x, y) {
 return x.toPrecision() + y.toPrecision()
}
console.log(add(0.1,0.2)); //"0.10.2"

References

http://www.jb51.net/article/77140.htm
http://www.tuicool.com/articles/uIFJ3qJ
http://blog.youkuaiyun.com/qq_34753236/article/details/51306259