在十进制中小数有些是无法完整用二进制表示的。它们只能用有限位来表示,从而在存储时可能就会有误差。十进制的小数采用乘2取整法进行计算,去掉整数部分后,剩下的小数继续乘以2,直到小数部分全为0.
有的小数可能取不到零就会一直循环
0.9*2=1.8…...取整1
0.8*2=1.6…...取整1
0.6*2=1.2…...取整1
0.2*2=0.4.…..取整0
0.4*2=0.8…...取整0
0.8*2=1.6…...取整1
我们计算0.3+0.4:
double a = 0.3 + 0.4;
printf("%f\n",a); //0.7
可以精确的显示0.7,其实在计算机上 0.3 + 0.4 根本就不等于 0.7 (为什么?),看下面代码就很清楚了:
#include <bits/stdc++.h>
using namespace std;
typedef long long LL;
int main()
{
double a = 0.3 + 0.4;
printf("%f\n",a);//输出 0.700000
printf("%.18f",a);//输出 0.699999999999999956
return 0;
}
因为 0.3 和 0.4 都不能被精确表示。 浮点数的精度丢失在每一个表达式,而不仅仅是表达式的求值结果。用printf输出的时候其实已经四舍五入了。
注意:把float\double强转化为int类型时,只取整数部分不会四舍五入。
#include <bits/stdc++.h>
using namespace std;
typedef long long LL;
int main()
{
double a = 1.3 + 1.4;
int b = (int)a;
printf("%d\n",b);//输出 2
return 0;
}
针对小数精度不够的问题(例如 0.74),软件可以人为的在数据最后一位补 5, 也就是 0.745,还原的时候再去掉尾巴5即可:
#include <bits/stdc++.h>
using namespace std;
typedef long long LL;
int main()
{
double a = 0.74;
double b = 0.74 + 0.005;
printf("%.18f\n",a);//输出 0.739999999999999991
printf("%.18f\n",b);//输出 0.744999999999999996
int c = (int)(a * 100);
int d = (int)(0.74 * 100 +0.005);
printf("%d\n",c);//输出 73
printf("%d\n",d);//输出 74
return 0;
}