JS浮点计算的问题以及处理方法

最新推荐文章于 2024-05-22 16:28:54 发布

小吴-斌

最新推荐文章于 2024-05-22 16:28:54 发布

阅读量561

点赞数 1

分类专栏： JS 文章标签： js

本文链接：https://blog.youkuaiyun.com/qq_23564667/article/details/114984435

版权

JS 专栏收录该内容

8 篇文章

订阅专栏

本文探讨了JavaScript中浮点数运算的不精确性问题，解释了其背后的原理，并提供了几种实用的解决方法，包括加法、减法、乘法和除法的自定义函数。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

在项目中碰到浮动计算的问题，

比如：0.49-0.44=0.05
但是通过 js计算得出的结果： 0.49-0.44=0.04999999999999999

为什么会出现这种情况呢？

因为JavaScript 里的数字是采用 IEEE 754 标准的 64 位双精度浮点数。该规范定义了浮点数的格式。

下面以扩大倍数运算举例子：【原理把小数变成整数，然后做运算处理，再除以放大倍数】

  // 加法
  function add_number(arg1, arg2) {
    var r1, r2, m;
    try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
    try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
    m = Math.pow(10, Math.max(r1, r2))
    return (arg1 * m + arg2 * m) / m
  }
  // 减法
  function minus_number(arg1, arg2) {
    var r1, r2, m, n;
    try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
    try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
    m = Math.pow(10, Math.max(r1, r2));
    //动态控制精度长度
    n = (r1 >= r2) ? r1 : r2;
    return ((arg1 * m - arg2 * m) / m).toFixed(n);
  }
  // 乘法
  function multiply_number(arg1, arg2) {
    var m = 0, s1 = arg1.toString(), s2 = arg2.toString();
    try { m += s1.split(".")[1].length } catch (e) { }
    try { m += s2.split(".")[1].length } catch (e) { }
    return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m)
  }
  // 除法
  function division_number(arg1, arg2) {
    var t1 = 0, t2 = 0, r1, r2;
    try { t1 = arg1.toString().split(".")[1].length } catch (e) { }
    try { t2 = arg2.toString().split(".")[1].length } catch (e) { }
    with (Math) {
      r1 = Number(arg1.toString().replace(".", ""))
      r2 = Number(arg2.toString().replace(".", ""))
      return (r1 / r2) * pow(10, t2 - t1);
    }
  }