计算几何的精度问题

本文探讨了浮点数的精度问题,特别是在C/C++中的表现,并提供了一种使用eps来判断两个浮点数是否相等的方法。通过具体实例说明了如何避免使用直接的相等比较。
  • 浮点数为何会有精度问题

 占字节数数值范围十进制精度位数
float4-3.4e-38~3.4e386~7
double8-1.7e-308~1.7e30814~15


如果内存不是很紧张或者精度要求不是很低,一般选用double。14位的精度(是有效数字位,不是小数点后的位数)通常够用了。注意,问题来了,数据精度位数达到了14位,但有些浮点运算的结果精度并达不到这么高,可能准确的结果只有10~12位左右。那低几位呢?自然就是不可预料的数字了。这给我们带来这样的问题:即使是理论上相同的值,由于是经过不同的运算过程得到的,他们在低几位有可能(一般来说都是)是不同的。这种现象看似没太大的影响,却会一种运算产生致命的影响: ==。恩,就是判断相等。注意,C/C++中浮点数的==需要完全一样才能返回true。来看下面这个例子:

  1. #include <iostream>  
  2. #include<math.h>  
  3. using namespace std;  
  4.   
  5. int main()  
  6. {  
  7.     double a=asin(sqrt(2.0)/2)*4.0;  
  8.     double b=acos(-1.0);  
  9.     printf("a =%.20lf\n",a);  
  10.     printf("b =%.20lf\n",b);  
  11.     printf("a-b=%.20lf\n",a-b);  
  12.     printf("a==b = %d\n",a==b);  
  13.   
  14.     return 0;  
  15. }  



解决办法,引进eps,辅助判断浮点数相等

  • eps(epsilon)
eps最常见的取值是1e-8左右。引入eps后我们判断两浮点数a,b相等的方式是:

定义三出口函数:int sgn(double a){ return a< -eps?-1:a< eps?0:1;}

则各种判断大小的运算都应做如下修改:

传统意义修正写法1修正写法2
a==bsgn(a-b) ==0fabs(a -b) <eps
a!=bsgn(a-b) !=0fabs(a-b)>eps
a<bsgn(a-b)<0a-b<-eps
a<=bsgn(a-b)<=0a-b<eps
a>bsgn(a-b)>0a-b>eps
a>=bsgn(a-b)>=0a-b>-eps
   

这样才能把相差非常近的浮点数判为相等,相差较大的数判为不等。

ps:养成好习惯,尽量不要对浮点数用==判断。修正写法2中就没有等号

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值