用js进行加减乘除运算(涉及到小数)是有可能出现问题的,例如:
0.1 + 0.2 = 0.30000000000000004
0.3 - 0.2 = 0.09999999999999998
0.3 * 1 = 0.2999999999
…
是不是很神奇,觉得如此简单的计算计算机是不应该出错的,怎么会呢?
哈,想了解这个问题,首先我们应该明白,计算机只能看懂二进制语言,那么0.1和0.2转换成二进制是多少呢?
JS 遵循 IEEE 754 规范,采用双精度存储(double precision),占用 64 bit
1位用来表示符号位,11位用来表示指数,52位表示尾数
0.1 => 0.0001 1001 1001 1001…(无限循环)
0.2 => 0.0011 0011 0011 0011…(无限循环)
双精度浮点数的小数部分最多支持 52 位,所以两者相加之后得到这么一串 :0.0100110011001100110011001100110011001100110011001100
因浮点数小数位的限制而截断的二进制数字,这时候,我们再把它转换为十进制,就成了 0.30000000000000004。
那我们怎么解决小数运算问题呢?
当然你可以先做一步小数转整数的操作,如:
(0.3 * 10 - 0.2 * 10)/10 = 0.1
但是如果你出现这样的情况就…
2.18 * 100 = 218.00000000000003
是不是很无语呢?
为了解决浮点数运算不准确的问题,在运算前我们把参加运算的数先升级(10的X的次方)到整数,等运算完后再降级(0.1的X的次方)。
//除法
function accDiv(arg1,arg2){
var t1=0,t2=0,r1,r2;
try{t1=arg1.toString().split(".")[1].length}catch(e){}
try{t2=arg2.toString().split(".")[1].length}catch(e){}
with(Math){
r1=Number(arg1.toString().replace(".",""))
r2=Number(arg2.toString().replace(".",""))
return accMul((r1/r2),pow(10,t2-t1));
}
}
//乘法
function accMul(arg1,arg2){
var m=0,s1=arg1.toString(),s2=arg2.toString();
try{m+=s1.split(".")[1].length}catch(e){}
try{m+=s2.split(".")[1].length}catch(e){}
return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}
//加法
function accAdd(arg1,arg2){
var r1,r2,m;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2))
return (arg1*m+arg2*m)/m
}
//减法
function Subtr(arg1,arg2){
var r1,r2,m,n;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2));
n=(r1>=r2)?r1:r2;
return ((arg1*m-arg2*m)/m).toFixed(n);
}