javascript中的浮点数和四舍五入误差

本文通过一个具体的JavaScript代码示例揭示了浮点数运算中常见的精度问题,并解释了背后的原因在于IEEE-754浮点表示法对于某些十进制分数无法精确表示。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

例:

var a=0.1;

var b=0.2;

var c=0.6;

var d=0.8;

var result=[];

result=[d-c==b,b-a==a];

思考一下,result中的结果会是什么?result=[true,true]?事实是result=[false,true]。

为什么呢?

javascript中采用了IEEE-754浮点表示法,这是一种二进制表示法,可以精确的表示分数,比如1/2、1/4等,但对于十进制分数1/10、1/100等并不能精确表示。

所以,0.8-0.6的结果是近似于0.2,但不等于0.2;而0.2-0.1的结果为0.1。


评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值