浮点变量与零值比较

无论是float,还是double类型的变量,都有精度限制.所以一定要避免将浮点变量"=="或"!="与数字比较,

 

由于计算机内部对浮点型数的存储有误差,比如double x=0.0;这时计算机内x值可能是0.0000000001……,如果你想将x用作条件判断:
if(x==0)
{//要执行的代码}
那么这时,即使在逻辑上if后的语句是应该被执行的,由于x的值并不精确为0,实际执行时判断条件不成立,要执行的语句没有被执行,这就造成了程序运行结果不正确,也就是逻辑错误。因此,在判断条件中,要尽量不用浮点型变量,而用整型变量,因为计算机对整型变量的存储是精确的。

这时,如果条件判断必须要用浮点型变量的话,那就要变通一下,浮点型的数字都有精确度,比如float型大概是精确到6位,则小数点后6位都是准确的,如果float x=0.0,则x可能为0.000000654……等,那么可取EPSINON=0.000001,则x==0这时就相当于x>-EPSINON&&x<EPSINON,这样再用作判断条件就不会出错了。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值