读书笔记

本文揭示了浮点数计算中的精度问题及其对测试的影响,解释了为什么不能直接测试特定浮点数是否相等,并提供了理解浮点数计算误差的洞察。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1.浮点数值的最高精度是17位小数,但在进行算术计算式其精确度远远不如整数。例如,0.1+0.2 的结果不是0.3,而是0.00000000000000004。这个小小的舍入误差 会导致无法测试特定的浮点数值。

例如:

if ( a + b == 0.3){
	alert("You got 0.3.")
}

在这个例子中,我们测试的两个数之和是不是等于0.3。如果这两个数是0.05和0.25,或者是0.15和0.15都不会出问题,而如前所述,如果两个数是0.1和0.2,那么测试将无法通过。因此,永远不要测试某个特定的浮点数值。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值