0.1 + 0.2 不等于0.3 问题,精度的丢失和解决办法

10个0.1相加不等于1;
在这里插入图片描述

这是因为浮点数精度丢失的问题,首先知道在计算机中数字是以二进制的方式存在的,那么在CPU中计算0.1+0.1时实际上是0.1的二进制的相加;
( 0.1 => 0.0001 1001 1001 1001…无限循环)
如上,因为是无限循环,所以CPU计算时不会存储太多位,因此会在某位初截断。
根据IEEE-754标准,最大保留0.1后小数点后17位也就是这样:
在这里插入图片描述

所以也就有在编程环境中把1分成三份,再加起来就不再是1了。同样0.1+0.2也就不等于0.3了。

IEEE-754标准中一个浮点数分成两部分组成: 6.4∗1066.4 * 10^66.4<

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Lazy_Goat

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值