js浮点数运算莫名出现多位小数
例如:
console.log(0.1+0.2)//0.30000000000000004
console.log(0.1*0.2)//0.020000000000000004
console.log(0.1*3)//0.30000000000000004
console.log(1.2/3)//0.39999999999999997---能整除的除法
原因:
JavaScript中计算小数运算时,都会先将十进制的小数换算到对应的二进制,一部分小数并不能完整的换算为二进制,这里就出现了第一次的误差,运算后得到二进制结果。然后再将二进制结果换算为十进制,这里也可能回出现第二次的误差。
解决方法:
方法一:
利用JavaScript 的toFixed(n) 方法,直接获取N 位小数,但是对精度会有一丝影响,如果精度要求不高的话可以使用。
方法二:
编写算法—》先把小数转换成整数,在进行运算,运算结束后再缩小同样倍数,从而规避浮点数运算
以下示例是加法运算:
function addFloatNum (num1, num2) {//核心思想是先把小数转换成整数
var sq1,sq2,m;
try {
sq1 = num1.toString().split(".")[1].length;//计算出小数点后有几位
}
catch (e) {
sq1 = 0;//小数点后没有东西,就默认为零位
}
try {
sq2 = num2.toString().split(".")[1].length;//计算出小数点后有几位
}
catch (e) {
sq2 = 0;//小数点后没有东西,就默认为零位
}
m = Math.pow(10,Math.max(sq1, sq2));//Math.pow() 102==100;23==8;,,,10 100 1000...
return (num1 * m + num2 * m) / m;
}