double 计算时精度损失

最新推荐文章于 2023-09-08 00:50:15 发布

原创最新推荐文章于 2023-09-08 00:50:15 发布 · 2.1k 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#double #精度损失

bug汇总专栏收录该内容

24 篇文章

订阅专栏

在进行double类型的数值计算时，由于浮点数的精度问题，可能会出现计算结果不准确的情况，例如出现多余的0.000000001。本文介绍如何使用BigDecimal类来避免这种误差，确保计算的准确性。

计算double类型的数时有时候会多出0.000000001，会有不确定个数的0，在计算时将其转为BigDecimal就不会出错。

BigDecimal sum = new BigDecimal(0.0);                

BigDecimal tmp = new BigDecimal(0.0);             
for(int i=0; i<list.size(); i++){                    

	tmp = new BigDecimal(list.get(i).get("AMOUNT").toString()); 
	
	sum = sum.add(tmp);               

}                

sum.doubleValue();