js常见计算精度问题集合并且综合解决

本文探讨了JavaScript中由于二进制表示限制导致的0.1+0.2不等于0.3的问题,以及parseFloat和toFixed的使用误区。提供了自定义toFixed方法解决小数四舍五入问题的实例。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1.js加法bug

问题:0.1+0.2不等于0.3

引发原因:在二进制的世界里面,有的数字在二进制里面是无限循环的,js数字二进制的有限的位数,在某个时候就会出现计算错误

解决办法:parseFloat((0.1+0.2).toFixed(10))

————————————————————————————————

2.js parseFloat保留小数,没有四舍五入

问题:0.435.toFixed(2),理想状态是等于0.44,实际等于0.43

引发原因:有的数字在二进制里面是无限循环的,js数字二进制的有限的位数,所以保留的两位小数可能就与实际不对。

解决办法:重写Number.prototype.toFixed方法(如下代码),把他放置在原先加载js的地方


Number.prototype.toFixed=function (d) { 
                var s=this+""; 
                if(!d)d=0; 
                if(s.indexOf(".")==-1)s+="."; 
                s+=new Array(d+1).join("0"); 
                if(new RegExp("^(-|\\+)?(\\d+(\\.\\d{0,"+(d+1)+"})?)\\d*$").test(s)){
                    var s="0"+RegExp.$2,pm=RegExp.$1,a=RegExp.$3.length,b=true;
                    if(a==d+2){
                        a=s.match(/\d/g); 
                        if(parseInt(a[a.length-1])>4){
                            for(var i=a.length-2;i>=0;i--){
                                a[i]=parseInt(a[i])+1;
                                if(a[i]==10){
                                    a[i]=0;
                                    b=i!=1;
                                }else break;
                            }
                        }
                        s=a.join("").replace(new RegExp("(\\d+)(\\d{"+d+"})\\d$"),"$1.$2");
 
                    }if(b)s=s.substr(1); 
                    return (pm+s).replace(/\.$/,"");
                }return this+"";
 
            };

 

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

时光机上敲代码

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值