就差一点点－微妙的强制类型转换

最新推荐文章于 2025-05-04 17:46:58 发布

weixin_33971205

最新推荐文章于 2025-05-04 17:46:58 发布

阅读量1.1k

点赞数

CC 4.0 BY-SA版权

原文链接：http://www.cnblogs.com/jonnyyu/archive/2005/07/20/196691.html

在使用C#进行单元测试时，遇到float类型运算精度问题导致测试失败。通过调整类型转换方式，从直接(int)(actualWidth*scale)改为(int)(float)(actualWidth*scale)，解决了问题。探讨了C#编译器(.Netruntime)对不同强制类型转换的处理差异。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

今天在写UnitTest时发现有个测试死活通不过。
其中语句的关键代码是这样的:
float scale = 0.24f;
int actualWidth = 800;
int width = (int)(actualWidth * scale);
AssertEquals(192, width);

dotUnit报错, expected value 192, 191 was got.
但是如果这样写就对了。
float scale = 0.24f;
int actualWidth = 800;
float widthf = actualWidth * scale; // 这里是192.0
int width = (int)widthf; //这样就是192了。

最后改成了
int width = (int)(float)(actualWidth * scale);
搞定。

但是问题仍然存在，C#编译器（.Net runtime)对于这两种强制类型转换内部处理有何差异呢？
第一种强制类型转换的结果为什么不对？我还没有很明确的答案，有谁知道？