浮点数提供有限的精度

浮点数精度与比较
本文探讨了浮点数在C++中的精度限制及其带来的舍入误差问题,并提供了实例说明为何直接比较浮点数可能得到意外的结果。

因为我们设置精度16位数,上述每个数字16位数。但是,正如您所看到的,当然不精确的16位数的数字!

变量类型的浮动通常有大约7有效数字的精度(这就是为什么一切后,许多数字在上面的回答是垃圾)。变量类型的双精度通常有一个约16位有效数字。double类型的变量命名,因为他们提供一个浮点数精度值的两倍左右。

现在让我们考虑一个非常大的数量:|

1
2
3
4
5
6
7
8
9
10
11
#include <iostream>
#include <iomanip> // for setprecision()
int main()
{
    using namespace std;
 
    cout << setprecision(16); // show 16 digits
    float fValue = 3.33333333333333333333333333333333333333f;
    cout << fValue << endl;
    double dValue = 3.3333333333333333333333333333333333333;
    cout << dValue << endl;

注意,最后一列的错误不再像在前一个例子!它已经传播到第二列。你继续做数学运算,这个错误可以进一步传播,导致实际数量漂远,远离用户所期望的。

浮点数的比较

的一件事,程序员喜欢与数字和变量是两个数字或变量是否相等。c++提供了一个操作符叫做平等操作符(= =)正是为了这个目的。例如,我们可以编写一个代码片段如下:



2
3
4
5
6
7
8
float fValue1 = 1.345f;
float fValue2 = 1.123f;
float fTotal = fValue1 + fValue2; // should be 2.468
 
if (fTotal == 2.468)
    cout << "fTotal is 2.468";
else
    cout << "fTotal is not 2.468";
2
3
4
5
6
7
8
float fValue1 = 1.345f;
float fValue2 = 1.123f;
float fTotal = fValue1 + fValue2; // should be 2.468
 
if (fTotal == 2.468)
    cout << "fTotal is 2.468";
else
    cout << "fTotal is not 2.468";

这个程序打印:

fTotal不是2.468

这个结果是由于舍入误差。fTotal实际上是被存储为2.4679999,而不是2.468 !

出于同样的原因,比较运算符>,> =,<,< =可能产生错误的结果当比较两个浮点数非常接近。

结论

总而言之,有两件事你应该记住关于浮点数:

1)浮点数提供有限的精度。浮动通常提供价值约7有效数字的精度,和双打提供16位有效数字。尝试使用更重要的数字将导致丧失精度。(注意:占位符零不算作有效数字,所以许多像22000000000年,或0.00000033仅计算了2位数)。

2)浮点数经常有小舍入误差。很多时候这些被忽视,因为他们是如此的小,因为之前的数字是截断输出误差传播的部分是不会被删除的。无论如何,比较浮点数可能不给两个数字接近时的预期结果。

关系运算符的部分更详细地比较浮点数。


2
3
4
5
6
7
8
float fValue1 = 1.345f;
float fValue2 = 1.123f;
float fTotal = fValue1 + fValue2; // should be 2.468
 
if (fTotal == 2.468)
    cout << "fTotal is 2.468";
else
    cout << "fTotal is not 2.468";
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值