Lambda判断小数的时候

本文介绍了一个关于浮点数比较的常见错误,并提供了解决方案。在使用C#进行项目开发过程中,作者发现当比较两个浮点数时,直接使用0.001会出现误判现象,实际上应该显式指定浮点数精度,例如使用0.001f。

做一个项目的时候,用到了一个list判断。用法如下所示:

listExp=ListExpAll.FindAll(P=>P.TeXing>100);//listExp和ListExpAll为list

各种情况都是正常

下一个listExp=ListExpAll.FindAll(P=>P.TeXing>0.001);//listExp和ListExpAll为list

当有属性为0.001时,原则上是不包含的,实际测试结果包含,有误。

研究发现在浮点数情况下,小数后要加f

改为listExp=ListExpAll.FindAll(P=>P.TeXing>0.001f);//listExp和ListExpAll为list

正常了。




评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值