Js中string转float出现精度问题

最新推荐文章于 2023-12-16 14:02:54 发布

转载最新推荐文章于 2023-12-16 14:02:54 发布 · 836 阅读

1 ·

CC 4.0 BY-SA版权

原文链接：https://my.oschina.net/u/2326864/blog/791138

文章标签：

#python

本文针对表格数据求和过程中因小数位数不一致导致的精度问题，提供了浮点数加法、减法、乘法及除法的JavaScript实现方案，确保计算结果的准确性。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

2019独角兽企业重金招聘Python工程师标准>>>

最近遇到点问题，一个table表格数据求和，因为所填数据支持两位小数，所以采用string转float，然后求和，可是求出来的结果出现.999999999或.000000001这样的状况，很头疼，所以查了一下，主要问题在于填写的**小数位数不一致**，得到以下解决方法，留作以后学习。

输入图片说明

//浮点数加法运算
function FloatAdd(arg1,arg2){
    var r1,r2,m;
    try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
    try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
    m=Math.pow(10,Math.max(r1,r2));
    return (arg1*m+arg2*m)/m;
}
 
//浮点数减法运算
function FloatSub(arg1,arg2){
    var r1,r2,m,n;
    try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
    try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
    m=Math.pow(10,Math.max(r1,r2));
    //动态控制精度长度
    n=(r1=r2)?r1:r2;
    return ((arg1*m-arg2*m)/m).toFixed(n);
}
 
//浮点数乘法运算
function FloatMul(arg1,arg2)
{
    var m=0,s1=arg1.toString(),s2=arg2.toString();
    try{m+=s1.split(".")[1].length}catch(e){}
    try{m+=s2.split(".")[1].length}catch(e){}
    return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m);
}
 
 
 //浮点数除法运算
function FloatDiv(arg1,arg2){
    var t1=0,t2=0,r1,r2;
    try{t1=arg1.toString().split(".")[1].length}catch(e){}
    try{t2=arg2.toString().split(".")[1].length}catch(e){}
    with(Math){
        r1=Number(arg1.toString().replace(".",""));
        r2=Number(arg2.toString().replace(".",""));
        return (r1/r2)*pow(10,t2-t1);
    }
}

转载于:https://my.oschina.net/u/2326864/blog/791138