js计算小数精度的问题

最新推荐文章于 2024-09-06 11:24:39 发布

原创最新推荐文章于 2024-09-06 11:24:39 发布 · 1k 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#javascript

JAVA WEB菜鸟专栏收录该内容

21 篇文章

订阅专栏

先总结：所有的运算均先转成整数

js 进行数学运算会出现精度问题

网上有很多方案，总结下比较靠谱的一种：

原因分析：

js小数计算先转二进制，计算完再转十进制

导致可能出现xxxx.999 这种

解决方案。先转整数再计算再还原小数

这里给出加法和乘法两种方案，其他自行研究下吧

特别注意加法必须配合乘法使用，

//自定义加法运算第一步实际上还是有问题

//自定义加法运算最终版为准

为什么？简单的说就是一个小时乘以正数（即使是10的N次方）也可能存在精度问题

看例子：0.48*10 正常；4460.48*10出现精度问题，用我们自定义的mulNum(4460.48,10) 正常

console.log("0.48*10="+0.48*10)
console.log("4460.48*10="+4460.48*10)
console.log("+mulNum(4460.48,10)="+mulNum(4460.48,10))

> "0.48*10=4.8"

> "4460.48*10=44604.799999999996"

> "+mulNum(4460.48,10)=44604.8"

//自定义加法运算第一步
function addNum (num1, num2) {
    var num1s, num2s;
    var sq1=0,sq2=0,m=0;
    try {
        num1s=  num1.toString().split(".");
        sq1 = num1s.length=2? num1s[1].length:0;
    }
    catch (e) {
    }
    try {
        num2s=  num2.toString().split(".");
        sq2 = num2s.length=2? num2s[1].length:0;
    }
    catch (e) {
    }
    m = Math.pow(10,Math.max(sq1, sq2));
    return (num1 * m + num2 * m) / m;
}
//自定义乘法法运算
function mulNum(num1, num2){
    var num1s, num2s;
    var m=0;
    var num1Acc=num1.toString().replace(".",""), num2Acc=num2.toString().replace(".","");
    try {
        num1s=  num1.toString().split(".");
        m += num1s.length=2?num1s[1].length:0;
    }
    catch (e) {
    }
    try {
        num2s=  num2.toString().split(".");
        m +=  num2s.length=2? num2s[1].length:0;
    }
    catch (e) {
    }
    return Number(num1Acc)*Number(num2Acc)/Math.pow(10,m);
}

//自定义加法运算最终版
function addNum (num1, num2) {
    var num1s, num2s;
    var sq1=0,sq2=0,m=0;
    try {
        num1s=  num1.toString().split(".");
        sq1 = num1s.length=2? num1s[1].length:0;
    }
    catch (e) {
    }
    try {
        num2s=  num2.toString().split(".");
        sq2 = num2s.length=2? num2s[1].length:0;
    }
    catch (e) {
    }
    m = Math.pow(10,Math.max(sq1, sq2));
    return (mulNum(num1 , m) + mulNum(num2 , m)) / m;
    // return (num1 * m + num2 * m) / m;
}