float,double分别遵循R32-24,R64-53的标准。
所以float的精度误差在1e-6;double精度误差在1e-15
判断float:则是 if(abs(f) <= 1e-6);
判断double:则是 if(abs(f) <= 1e-15);
小于,为0,大于,不为0 。
本文介绍了float和double两种数据类型的精度标准及其误差范围。float遵循R32-24标准,精度误差约为1e-6;double遵循R64-53标准,精度误差约为1e-15。文中还提供了如何判断这两种类型数值是否为0的方法。
float,double分别遵循R32-24,R64-53的标准。
所以float的精度误差在1e-6;double精度误差在1e-15
判断float:则是 if(abs(f) <= 1e-6);
判断double:则是 if(abs(f) <= 1e-15);
小于,为0,大于,不为0 。
336

被折叠的 条评论
为什么被折叠?