JS toFixed的精度问题

最新推荐文章于 2025-05-15 23:09:34 发布

原创最新推荐文章于 2025-05-15 23:09:34 发布 · 519 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#js

js 专栏收录该内容

69 篇文章

订阅专栏

本文介绍了一个toFixed方法在处理小数精度时出现的问题，并提供了一种改进的方法来确保数值的正确舍入。通过重写Number.prototype.toFixed，解决了0.235等数值转换成字符串时的精度丢失问题。

0.236.toFixed(2) //0.24
0.235.toFixed(2) //0.23 错误

重写toFixed方法

Number.prototype.toFixed = function (d) { 
  if(isNaN(this)){
    return '--'
  }else{
    // return parseInt(this * Math.pow(10, exponent) + 0.5) / Math.pow(10, exponent); 
    var s=this+""; 
    if(!d)d=0; 
    if(s.indexOf(".")==-1)s+="."; 
    s+=new Array(d+1).join("0"); 
    if(new RegExp("^(-|\\+)?(\\d+(\\.\\d{0,"+(d+1)+"})?)\\d*$").test(s)){
    var s="0"+RegExp.$2,pm=RegExp.$1,a=RegExp.$3.length,b=true;
    if(a==d+2){
      a=s.match(/\d/g); 
    if(parseInt(a[a.length-1])>4){
      for(var i=a.length-2;i>=0;i--){
      a[i]=parseInt(a[i])+1;
    if(a[i]==10){
      a[i]=0;
      b=i!=1;
    }else break;
      }
      }
      s=a.join("").replace(new RegExp("(\\d+)(\\d{"+d+"})\\d$"),"$1.$2");
      
      }if(b)s=s.substr(1); 
        return (pm+s).replace(/\.$/,"");
      }
      // return num+"";
  }
  
}

为防止字符串调用此方法


String.prototype.toFixed = function (d) { 
  if(isNaN(this)){
    return '--'
  }else{
    // return parseInt(this * Math.pow(10, exponent) + 0.5) / Math.pow(10, exponent); 
    var s=this+""; 
    if(!d)d=0; 
    if(s.indexOf(".")==-1)s+="."; 
    s+=new Array(d+1).join("0"); 
    if(new RegExp("^(-|\\+)?(\\d+(\\.\\d{0,"+(d+1)+"})?)\\d*$").test(s)){
    var s="0"+RegExp.$2,pm=RegExp.$1,a=RegExp.$3.length,b=true;
    if(a==d+2){
      a=s.match(/\d/g); 
    if(parseInt(a[a.length-1])>4){
      for(var i=a.length-2;i>=0;i--){
      a[i]=parseInt(a[i])+1;
    if(a[i]==10){
      a[i]=0;
      b=i!=1;
    }else break;
      }
      }
      s=a.join("").replace(new RegExp("(\\d+)(\\d{"+d+"})\\d$"),"$1.$2");
      
      }if(b)s=s.substr(1); 
        return (pm+s).replace(/\.$/,"");
      }
      // return num+"";
  }
  
}