javascript 计算小数错误

本文探讨了JavaScript中浮点数计算的精度问题,并提供了一种自定义的四则运算方法来解决此类问题。通过这种方法,可以确保计算结果的准确性,避免常见的浮点数运算误差。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

javascript在计算浮点数的时候是不可靠的,这一点在实际开发中常常遇到,但是也常常忽略。

比如你在js中直接使用两个浮点数进行加减乘除,得到结果如下:
1.01 + 1.02 =2.0300000000000002
1.01 – 1.02 =-0.010000000000000009
0.000001 / 0.0001 =0.009999999999999998
0.012345 * 0.000001 =1.2344999999999999e-8

如果固定小数位进行四舍五入的话是没有问题的,但是如果直接用结果作为值返回就错误了。

所以我通常都是使用自定义的四则运算方法来在javascript中计算数字

代码如下:
 <script type="text/javascript">

    // 两个浮点数求和
    function accAdd(num1,num2){
        var r1,r2,m;
        try{
            r1 = num1.toString().split(‘.’)[1].length;
        }catch(e){
            r1 = 0;
        }
        try{
            r2=num2.toString().split(".")[1].length;
        }catch(e){
            r2=0;
        }
        m=Math.pow(10,Math.max(r1,r2));
        return Math.round(num1*m+num2*m)/m;
    }
   
    // 两个浮点数相减
    function accSub(num1,num2){
        var r1,r2,m;
        try{
            r1 = num1.toString().split(‘.’)[1].length;
        }catch(e){
            r1 = 0;
        }
        try{
            r2=num2.toString().split(".")[1].length;
        }catch(e){
            r2=0;
        }
        m=Math.pow(10,Math.max(r1,r2));
        n=(r1>=r2)?r1:r2;
        return (Math.round(num1*m-num2*m)/m).toFixed(n);
    }
    // 两数相除
    function accDiv(num1,num2){
        var t1,t2,r1,r2;
        try{
            t1 = num1.toString().split(‘.’)[1].length;
        }catch(e){
            t1 = 0;
        }
        try{
            t2=num2.toString().split(".")[1].length;
        }catch(e){
            t2=0;
        }
        r1=Number(num1.toString().replace(".",""));
        r2=Number(num2.toString().replace(".",""));
        return (r1/r2)*Math.pow(10,t2-t1);
    }
   
    // 两数相乘
    function accMul(num1,num2){
        var m=0,s1=num1.toString(),s2=num2.toString();
        try{m+=s1.split(".")[1].length}catch(e){};
        try{m+=s2.split(".")[1].length}catch(e){};
        return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m);
    }
   
  </script>

这样计算的结果就对了:
1.01 + 1.02 =2.03
1.01 – 1.02 =-0.01
0.000001 / 0.0001 =0.01
0.012345 * 0.000001 =1.2345e-8

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值