Js运算出现多位小数

js浮点数运算莫名出现多位小数
例如:

console.log(0.1+0.2)//0.30000000000000004
console.log(0.1*0.2)//0.020000000000000004
console.log(0.1*3)//0.30000000000000004
console.log(1.2/3)//0.39999999999999997---能整除的除法

原因:

JavaScript中计算小数运算时,都会先将十进制的小数换算到对应的二进制,一部分小数并不能完整的换算为二进制,这里就出现了第一次的误差,运算后得到二进制结果。然后再将二进制结果换算为十进制,这里也可能回出现第二次的误差。

解决方法:

方法一:

利用JavaScript 的toFixed(n) 方法,直接获取N 位小数,但是对精度会有一丝影响,如果精度要求不高的话可以使用。

方法二:

编写算法—》先把小数转换成整数,在进行运算,运算结束后再缩小同样倍数,从而规避浮点数运算
以下示例是加法运算:

function addFloatNum (num1, num2) {//核心思想是先把小数转换成整数
	var sq1,sq2,m;
	try {
		sq1 = num1.toString().split(".")[1].length;//计算出小数点后有几位
	}
	catch (e) {
		sq1 = 0;//小数点后没有东西,就默认为零位
	}
	try {
		sq2 = num2.toString().split(".")[1].length;//计算出小数点后有几位
	}
	catch (e) {
		sq2 = 0;//小数点后没有东西,就默认为零位
	}
	m = Math.pow(10,Math.max(sq1, sq2));//Math.pow() 102==100;23==8;,,,10 100 1000...
	return (num1 * m + num2 * m) / m;
}
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

百事可爱-墨宝

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值