double 计算精度问题

最新推荐文章于 2022-09-20 11:11:34 发布

原创

最新推荐文章于 2022-09-20 11:11:34 发布 · 1.4k 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#NumberFormat #double #计算精度

本文探讨了在处理Excel导入时遇到的double计算精度问题，特别是在涉及计算公式时。问题根源在于`FormulaEvaluator`的`evaluate()`方法返回的`doubleValue`导致的精度损失。解决方案是使用`NumberFormat`对结果进行格式化。文章深入解析了`NumberFormat.format()`方法，特别是`fastDoubleFormat()`的实现，该方法遵循半均匀四舍五入规则来决定是否进位，并处理特殊的小数部分全是9的情况。

最近做 Excel 导入功能的时候遇到了计算精度的问题。直接导入单元格数据问题不大，但是碰到有计算公式的单元格，在加减乘除之后就效果感人。例如尝试计算 34*1.1445 得到的结果为 38.913000000000004。查看公式处理方法formulaEvaluator.evaluate(cell).getNumberValue() 中接口 FormulaEvaluator 的方法 evaluate(Cell cell) 的实现类为 HSSFFormulaEvaluator，方法的实质是创建 CellValue 对象，其中 numberValue 属性为 double 类型就导致计算的过程存在精度问题。

知道原因后，解决方法就简单了，可以对计算结果进行格式化，调用 numberFormat.format(formulaEvaluator.evaluate(cell).getNumberValue())

如此就有些好奇格式化具体是如何实现的，主要方法调用链为

java.text.NumberFormat.format(double number)->java.text.DecimalFormat.fastFormat(double d)->java.text.DecimalFormat.fastDoubleFormat(double d, boolean negative)

所以直接看 fastDoubleFormat 方法即可

/*
* The principle of the algorithm is to :
* - Break the passed double into its integral and fractional parts
* converted into integers.
&nbs