js浮点数乘法bug

bug原因:
JavaScript 内部只有一种数字类型Number,也就是说,JavaScript 语言的底层根本没有整数,所有数字都是以IEEE-754标准格式64位浮点数形式储存,1与1.0是相同的。因为有些小数以二进制表示位数是无穷的。JavaScript会把超出53位之后的二进制舍弃,所以涉及小数的比较和运算就会出问题,博主刚刚就到了,计算价格的时候,如下图。
111.1*12得到如下:在这里插入图片描述
解决方法一:
这个方法还是有问题的,当111.11 * 7 * 49的时候也会有问题

/**
     ** 乘法函数,用来得到精确的乘法结果
    ** 说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
    ** 调用:accMul(arg1,arg2)
    ** 返回值:arg1乘以 arg2的精确结果
    **/
    accMul = (arg1, arg2) => {
        var m = 0,
            s1 = arg1.toString(),
            s2 = arg2.toString();
        try {
            m += s1.split(".")[1].length;
        } catch (e) { }
        try {
            m += s2.split(".")[1].length;
        } catch (e) { }
        return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m);
    }

解决方法二:
这个方法还是有问题的,当111.11 * 7 * 49的时候ok
思路:先把你的小数乘100变成整数在计算乘积,最后结果在除以100,完美解决😁~

let numVule = (price || 0) * 100 * num ) / 100;
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值