js中解决小数加减乘除运算不准

最新推荐文章于 2024-08-07 10:10:37 发布

原创

最新推荐文章于 2024-08-07 10:10:37 发布 · 933 阅读

1 ·

CC 4.0 BY-SA版权

本文探讨了计算机中由于二进制表示导致的小数运算误差问题，并提供了一套JavaScript函数来准确处理加减乘除运算。通过将小数转换为整数进行计算，再转换回小数的方法，有效避免了精度损失。

原因
因为计算机表示小数二进制的问题导致0.1+0.2这种没法精确计算

解决方案
把小数先转为整数进行运算，然后在转回小数

function accAdd(arg1, arg2) {
   
   
    var r1, r2, m, c;
    try {
   
   
        r1 = arg1.toString().split(".")[1].length;
    }
    catch (e) {
   
   
        r1 = 0;
    }
    try {
   
   
        r2 = arg2.toString().split(".")[1].length;
    }
    catch (e) {
   
   
        r2 = 0;
    }
    c = Math.abs(r1 - r2);
    m = Math.pow(10, Math.max(r1, r2));
    if (c > 0) {
   
   
        var cm = Math.pow(10, c);
        if