几年前的代码发现一个BUG: 整数相除结果不能默认转换为浮点数

最新推荐文章于 2023-05-05 21:41:07 发布

weixin_33971205

最新推荐文章于 2023-05-05 21:41:07 发布

阅读量347

点赞数

CC 4.0 BY-SA版权

文章标签： python

原文链接：https://my.oschina.net/SamXIAO/blog/1798014

本文探讨了C语言中整型除法导致的精度丢失问题，并通过多种方式展示了如何将整数转换为浮点数以获得更精确的结果。示例代码展示了不同转换方法对计算结果的影响。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

2019独角兽企业重金招聘Python工程师标准>>>

几年前的代码发现一个BUG:

#include "stdafx.h"
#include "stdio.h"
#include<stdlib.h>  

void test(void)
{
	double t;
	U32 P=1,Q=3;
	 
	printf("sizeof(U32)=%d, sizeof(int)=%d, sizeof(long)=%d \n", sizeof(U32), sizeof(int), sizeof(long));
	t=P/Q/10;
	printf("11. t=%f\n", t);
	t=P/Q/10.0;
	printf("21. t=%f\n", t);

	t=1.0*P/Q/10.0;
	printf("22. t=%f\n", t);

	t=((double)P)/Q/10.0;
	printf("31. t=%f\n", t);

	t=P/((double)Q)/10.0;
	printf("32. t=%f\n", t);

	t=(double)P/(double)Q/10.0;
	printf("33. t=%f\n", t);

}


int _tmain(int argc, _TCHAR* argv[])
{
    test();
    return 0;
}

运行结果：


X:\vs2010\Debug>test_vs2010.exe
sizeof(U32)=4, sizeof(int)=4, sizeof(long)=4
11. t=0.000000
21. t=0.000000
22. t=0.033333
31. t=0.033333
32. t=0.033333
33. t=0.033333

转载于:https://my.oschina.net/SamXIAO/blog/1798014