js小数运算精度丢失的问题

本文探讨了JavaScript中浮点数运算可能出现的精度问题,如0.1+0.2不等于0.3。这源于二进制表示浮点数的局限性。为了解决这一问题,文章提供了四则运算的精确处理函数,通过调整数值大小避免浮点数运算误差。此外,还展示了如何在乘法和除法操作中应用该策略来确保结果的准确性。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

用js进行加减乘除运算(涉及到小数)是有可能出现问题的,例如:

0.1 + 0.2 = 0.30000000000000004
0.3 - 0.2 = 0.09999999999999998
0.3 * 1 = 0.2999999999

是不是很神奇,觉得如此简单的计算计算机是不应该出错的,怎么会呢?

哈,想了解这个问题,首先我们应该明白,计算机只能看懂二进制语言,那么0.1和0.2转换成二进制是多少呢?

JS 遵循 IEEE 754 规范,采用双精度存储(double precision),占用 64 bit
在这里插入图片描述
1位用来表示符号位,11位用来表示指数,52位表示尾数

0.1 => 0.0001 1001 1001 1001…(无限循环)
0.2 => 0.0011 0011 0011 0011…(无限循环)

双精度浮点数的小数部分最多支持 52 位,所以两者相加之后得到这么一串 :0.0100110011001100110011001100110011001100110011001100

因浮点数小数位的限制而截断的二进制数字,这时候,我们再把它转换为十进制,就成了 0.30000000000000004。

那我们怎么解决小数运算问题呢?

当然你可以先做一步小数转整数的操作,如:

(0.3 * 10 - 0.2 * 10)/10 = 0.1

但是如果你出现这样的情况就…

2.18 * 100 = 218.00000000000003

是不是很无语呢?

为了解决浮点数运算不准确的问题,在运算前我们把参加运算的数先升级(10的X的次方)到整数,等运算完后再降级(0.1的X的次方)。

//除法
function accDiv(arg1,arg2){  
	var t1=0,t2=0,r1,r2;  
 	try{t1=arg1.toString().split(".")[1].length}catch(e){}  
 	try{t2=arg2.toString().split(".")[1].length}catch(e){}  
 	with(Math){  
 		r1=Number(arg1.toString().replace(".",""))  
		r2=Number(arg2.toString().replace(".","")) 
 		return accMul((r1/r2),pow(10,t2-t1));  
 	}  
} 
	
 //乘法 
function accMul(arg1,arg2){  
 	var m=0,s1=arg1.toString(),s2=arg2.toString();  
 	try{m+=s1.split(".")[1].length}catch(e){}  
 	try{m+=s2.split(".")[1].length}catch(e){}  
 	return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)  
}  

//加法  
function accAdd(arg1,arg2){  
	var r1,r2,m;  
	try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}  
	try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}  
	m=Math.pow(10,Math.max(r1,r2))  
	return (arg1*m+arg2*m)/m  
}  

//减法  
function Subtr(arg1,arg2){ 
  	var r1,r2,m,n; 
  	try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} 
  	try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} 
  	m=Math.pow(10,Math.max(r1,r2)); 
  	n=(r1>=r2)?r1:r2; 
  	return ((arg1*m-arg2*m)/m).toFixed(n); 
}
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值