浮点类型比较特别的操作,取整和不四舍五入

最新推荐文章于 2024-01-31 16:02:21 发布

原创最新推荐文章于 2024-01-31 16:02:21 发布 · 1.3k 阅读

0 ·

CC 4.0 BY-SA版权

C++ 同时被 2 个专栏收录

50 篇文章

订阅专栏

Experience

42 篇文章

订阅专栏

本文探讨了浮点数运算中的精度问题及解决方法，包括如何通过特定的非四舍五入方式保留小数位数，以及使用 floor 函数进行向下取整等技巧。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

	//下面结果所得2.5678 保留两位不进行4舍5入等于2.56
	double nCurExpose=25678;
	double nCurRGB=10000;
	double dblRgbScale=(double)nCurExpose/(double)nCurRGB;//2.5678
	int nRgbScale=(int)(dblRgbScale*100);//非4舍五入操作保留两位小数点 nRgbScale=256
	dblRgbScale=(double)nRgbScale/100;//dblRgbScale=2.56
	//只保留整数,floorf只会返回取小于等于操作数的值
	double n=::floorf(1.91f);//1
	double n1=::floorf(1.9999f);//1
	double y=::floorf(-2.8f);//-3