java中，数值型Double运算出错问题

最新推荐文章于 2024-04-09 10:38:06 发布

原创最新推荐文章于 2024-04-09 10:38:06 发布 · 2k 阅读

0 ·

CC 4.0 BY-SA版权

本文探讨了Java中双精度浮点数运算的精度问题，特别是0.1+0.2或0.1*3导致结果不精确的现象，并介绍了使用保留精度的方法来解决此类问题，通过定义一个工具类来实现结果的小数点位数保留。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

在java中(在python，js其他语言中也存在)，某些double型数值运算会出错，例如0.1+0.2或者0.1*3会得到结果0.30000000000000004，网上有人提出解决办法如下：

Floati=3*0.1;

System.out.println(i);

但是对于0.9*1这种运算又会出现问题，用上述办法解决不了，所以，最好采用保留精度的方法，即设定保留小数点位数，下面保留小数点位数的工具类：

public static double round(double value, int scale) {
		
		if (scale < 0) {
			throw new IllegalArgumentException(
					"The scale must be a positive integer or zero");
		}
		
		BigDecimal b = new BigDecimal(Double.toString(value));
		BigDecimal one = new BigDecimal("1");
		
		return b.divide(one, scale, BigDecimal.ROUND_HALF_UP).doubleValue();
	}