js加减法运算多出很多小数点

本文介绍了两种解决JavaScript中浮点数运算误差的方法:一种是使用toFixed(n)方法获取N位小数;另一种是通过自定义加法函数来避免运算误差。此外,还探讨了不同写法在计算机底层转换成二进制运算的区别。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

链接:http://www.jb51.net/article/73043.htm

解决方法:
解决这种问题两种方法,第一种就是利用JavaScript 的toFixed(n) 方法,直接获取N 位小数,不过,个人觉得这种方法在数据精度上会有一些问题。如果数据精度要求不高的话可以使用。

?
1
alert((0.1 + 0.2).toFixed(1));

第二种方法就是自己编写运算方法。以下是自定义加法函数,使用此方法进行相加会避免上面问题。

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
//自定义加法运算
function addNum (num1, num2) {
  var sq1,sq2,m;
  try {
   sq1 = num1.toString().split( "." )[1].length;
  }
  catch (e) {
   sq1 = 0;
  }
  try {
   sq2 = num2.toString().split( "." )[1].length;
  }
  catch (e) {
   sq2 = 0;
  }
  m = Math.pow(10,Math.max(sq1, sq2));
  return (num1 * m + num2 * m) / m;
}
alert(addNum(0.1, 0.2));

当然,简单一点也可以写成:alert((num * 3 + 10 * 3) /3); 这样也不会出现 N 多位小数。
alert((num * 3 + 10 * 3) /3); 与 alert(num + 10); 这两种写法计算机在底层转换成二进制运算是有区别的,或许这就是出现上述问题的原因,还有待我们去深入研究,大家可以多多讨论。

转载于:https://www.cnblogs.com/wanlibingfeng/p/9153826.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值