double类型的精度是15位,也就是说,它对数值的描述是有一个范围的,那么,超出这个范围,就会出现一个误差,这个误差,会造成数据计算的失误,大家或许会觉得,15位,足够用了,但其实不对,大家平常就会用到,注意下面的例子:
double i = 0.0;
while (i < 10)
{
i += 0.1;
Console.WriteLine(i.ToString());
if (i == 6.0)
{
Console.WriteLine("is 6.0");
}
}
大家认为输出结果会是什么,是不是:0.1,0.2,0.3。。。9.9
如果认为是上述结果的话,那你真失败了~你可以跑一下,看看结果,当输出5.9后,下一个数据会是5.99999999999999,每次+0.1,这样误差就出来了,所以说,不能指望浮点数来精确计算。
如果要计算的话,应该加一些限制条件,比如:
double i = 0.0;
while (i < 10)
{
i += 0.1;
Console.WriteLine(i.ToString());
if (Math.Abs(i - 6.0) < 0.01)
{
Console.WriteLine("is 6.0");
}
}