浮点数值精度丢失浮点运算不正确

v_loading

于 2021-05-28 14:35:38 发布

阅读量146

点赞数 1

CC 4.0 BY-SA版权

分类专栏：问题文章标签： javascript

本文链接：https://blog.youkuaiyun.com/v_loading/article/details/117362123

问题专栏收录该内容

11 篇文章

订阅专栏

在JavaScript中，浮点数运算时常出现精度丢失，导致计算结果不准确。这源于浮点数在计算机内以二进制表示时的精度损失。为了解决这个问题，可以尝试使用一些策略来减少误差，例如四舍五入或使用高精度计算库。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

问题

26.66022+10
结果：36.660199999

计算的数值不正确

原因

计算机中把数字转换成二进制进行存储，小数点后面的数值装换成二进制值时就不准确了。

解决

let max = this.FloatAdd(+this.lon, '10.00000');
        let min = this.FloatDel(+this.lon, '10.00000');

FloatAdd(n1, n2) {
      console.log(n1.toString().split(".")[1],n2.toString().split(".")[1])
      //66022 00000
      let pow = Math.max(
        n1.toString().split(".")[1].length,
        n2.toString().split(".")[1].length
      );
      let base = Math.pow(10, pow);

      return (n1 * base + n2 * base) / base;
    },
    FloatDel(n1, n2) {
    
      let pow = Math.max(
        n1.toString().split(".")[1].length,
        n2.toString().split(".")[1].length
      );
      let base = Math.pow(10, pow);

      return (n1 * base - n2 * base) / base;
    },