浮点数精度的一点问题

 示例代码：

double j = 0.65f;

int i = 100 * j;

结果i等于64，与我们通常预计的结果不一致；原因是0.65f后面的f符号表示了0.65是一个单精度浮点数。调试发现实际值等于0.6499999，乘以100后转整数变成64.

 

测试环境：vs2010

 

 

转载于:https://www.cnblogs.com/xiayong123/archive/2011/11/08/3717420.html