ECMAScript浮点数值计算舍入误差问题

本文探讨了ECMAScript中基于IEEE754标准的浮点数计算带来的舍入误差问题,通过具体实例展示了常见错误及其原因,并提供了两种实用的方法来避免这类问题。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

由于ECMAScript使用基于IEEE754数值的浮点计算方法(本人也不明白这是什么鬼,大概知道一下就好了),有时在做加减计算时会出现如下问题。

实例:

输入一下代码:

<script>
    var a = 1.1;
    var b = 1.4;
    alert(a+b);
</script>
浏览器会弹出以下结果(有时):


但是比如输入一下代码时:

<script>
    var a = 1.2;
    var b = 1.4;
    alert(a+b);
</script>
浏览器会弹出以下结果(有时):


因此不建议判断浮点数值加减的值,比如:

var a = 0.1,
      b = 0.2;
if(a+b == 0.3){
    alert("You got 0.3.");
}


但是平常需要操作浮点数值的加减运算时,可以用以下两种方法解决舍入误差问题。

比如:

var a = 20.89,
    b = 18.95;
alert(a-b);
计算结果是:1.9400000000000013

解决方法一:

alert((a*100-b*100)/100);
解决方法二:

alert(parseFloat(a-b).toFixed(2));

parseFloat(a-b):意为a-b的值取小数

toFixed(2):意为保留两位小数



评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值