double类型精度损失问题

博客指出十进制中小数用二进制表示时可能存在存储误差,介绍了十进制小数转二进制的乘2取整法。以0.3 + 0.4为例,说明计算机中浮点数存在精度丢失问题,还提到强转int类型只取整数部分,以及可通过补5的方式解决小数精度不够的问题。

在十进制中小数有些是无法完整用二进制表示的。它们只能用有限位来表示,从而在存储时可能就会有误差。十进制的小数采用乘2取整法进行计算,去掉整数部分后,剩下的小数继续乘以2,直到小数部分全为0.

有的小数可能取不到零就会一直循环

0.9*2=1.8…...取整1

0.8*2=1.6…...取整1

0.6*2=1.2…...取整1

0.2*2=0.4.…..取整0

0.4*2=0.8…...取整0

0.8*2=1.6…...取整1

我们计算0.3+0.4:

double a = 0.3 + 0.4;
printf("%f\n",a); //0.7

可以精确的显示0.7,其实在计算机上 0.3 + 0.4 根本就不等于 0.7 (为什么?),看下面代码就很清楚了:

#include <bits/stdc++.h>
using namespace std;
typedef long long LL;
int main()
{
    double a = 0.3 + 0.4;
    printf("%f\n",a);//输出 0.700000
    printf("%.18f",a);//输出 0.699999999999999956
    return 0;
}

因为 0.3 和 0.4 都不能被精确表示。 浮点数的精度丢失在每一个表达式,而不仅仅是表达式的求值结果。用printf输出的时候其实已经四舍五入了。 

注意:把float\double强转化为int类型时,只取整数部分不会四舍五入

#include <bits/stdc++.h>
using namespace std;
typedef long long LL;
int main()
{
    double a = 1.3 + 1.4;
    int b = (int)a;
    printf("%d\n",b);//输出 2
    return 0;
}

针对小数精度不够的问题(例如 0.74),软件可以人为的在数据最后一位补 5, 也就是 0.745,还原的时候再去掉尾巴5即可:

#include <bits/stdc++.h>
using namespace std;
typedef long long LL;
int main()
{
    double a = 0.74;
    double b = 0.74 + 0.005;
    printf("%.18f\n",a);//输出 0.739999999999999991
    printf("%.18f\n",b);//输出 0.744999999999999996
    int c = (int)(a * 100);
    int d = (int)(0.74 * 100 +0.005);
    printf("%d\n",c);//输出 73
    printf("%d\n",d);//输出 74
    return 0;
}

 

 

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值