VS2003.NET打开优化选项后浮点运算错误

我的开发环境是VS2003.NET，语言是C++，服务器是Windows2003 Server SP2。出错的代码很简单，伪代码如下：

 

double a = <是一个很复杂的运算结果，值等于1.00000000000000000000011>;

double b = <是一个很复杂的运算结果，值等于1.00000000000000000000013>;

long c = (long)(a/b);

 

按着预期，上面的结果c应该等于1，但是在打开/o2优化之后，结果变成0，不打开优化结果正确。经过调研，发现这是VS2003.NET的bug，在VS2005中已经修复了。

这里的原因是在优化情况下，浮点数结果不会每次都写到内存中，而是直接在协处理器的寄存器中存储中间结果。而协处理器的寄存器有80位，而系统内存只有64位。这样所以把80位和64位的结果一起运算几轮之后，错误就出现了。

 

解决方案：

1. 升级编译器到2005或以上。

2. 使用优化选项关闭对此段代码的优化，具体方法可以参考下面链接：

http://msdn.microsoft.com/en-us/library/chh3fb0k(v=VS.71).aspx