JAVA编程——论浮点运算损失精度问题

最新推荐文章于 2025-01-31 23:16:28 发布

原创

最新推荐文章于 2025-01-31 23:16:28 发布 · 1.1k 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#java #精度

本文探讨了在Java编程中使用浮点数进行计算时遇到的精度损失问题，通过示例展示了即使看似简单的计算也可能导致不准确的结果。文章解释了这个问题源于浮点数在计算机中的二进制表示不精确，并建议使用BigDecimal类进行精确计算，特别是通过`BigDecimal(String value)`构造函数来避免精度损失。此外，文章还提到了一个名为Arith的工具类，用于简化浮点数的精确运算。

对这个问题相信都不陌生：

无论你使用的是什么编程语言，在使用浮点型数据进行精确计算时，都有可能出现精度损失问题。

来看下面的例子：

// 这是一个利用浮点型数据进行精确计算时结果出错的例子，使用Java编写，有所省略。

<span style="font-family:Microsoft YaHei;font-size:14px;"><span style="white-space:pre">	</span>Double a = (1.2 - 0.4) / 0.1;
<span style="white-space:pre">	</span>System.out.println(a);</span>

如果你认为这个程序的输出结果是“8”的话，那你就错了。实际上，程序的输出结果是“7.999999999999999”。

好，问题来了。到底是哪里出了错？

浮点型数据进行精确计算时，该类问题并不少见。我们姑且称其为“精度丢失”吧。大家可以试着改一下上面的程序，你会发现一些有趣的现象：

1、如果直接使用一个数字代替括号里的表达式，如“0.8 / 0.1”或者“1.1 /0.1”，那么似乎，注意只是似乎不会出现问题；

2、我们可能会做第二个测试，就是对比“0.8 / 1.1”和“(1.2 - 0.4) / 1.1”的结果，没错，我就是这样做的。那么你会发现，前者的结果是“0.7272727272727273”（四舍五入后的结果），而后者的结果是 “0.7272727272727272”（没有进行四舍五入）。可以推测，经过一次计算后，精度丢失了；

3、很好，我觉得我们已经很接近真相了，但是接下来的第三个测试或许会让你泄气，我是这样做的：对比“(2.4 - 0.1) /0.1”、“(1.2 - 0.1) / 0.1”以及“(1.1 - 0.1) / 0.1”的结果，第一个是“22.999999999999996”，第二个是“10.999999999999998”，第三个是“10.0”。似乎完全推翻了我们的想法；

4、你可能还不死心，因为在上面的测试里，第三个表达式括号中的结果实在太诡异了，正好是“1.0”