double 计算时精度损失

最新推荐文章于 2023-09-08 00:50:15 发布

luoyong_blog

最新推荐文章于 2023-09-08 00:50:15 发布

阅读量2.1k

点赞数 3

分类专栏： bug汇总文章标签： double 精度损失

本文链接：https://blog.youkuaiyun.com/luoyong_blog/article/details/84618548

版权

bug汇总专栏收录该内容

24 篇文章

订阅专栏

在进行double类型的数值计算时，由于浮点数的精度问题，可能会出现计算结果不准确的情况，例如出现多余的0.000000001。本文介绍如何使用BigDecimal类来避免这种误差，确保计算的准确性。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

计算double类型的数时有时候会多出0.000000001，会有不确定个数的0，在计算时将其转为BigDecimal就不会出错。

BigDecimal sum = new BigDecimal(0.0);                

BigDecimal tmp = new BigDecimal(0.0);             
for(int i=0; i<list.size(); i++){                    

	tmp = new BigDecimal(list.get(i).get("AMOUNT").toString()); 
	
	sum = sum.add(tmp);               

}                

sum.doubleValue();