double使用BigDecimal进行计算出现精确度问题

本文深入探讨了使用BigDecimal进行精确计算的原因,特别是在浮点数运算中避免精度损失的重要性。文章解释了浮点数在二进制表示下的局限性,以及如何通过BigDecimal的正确使用来解决这一问题,确保数值计算的准确性。

 

1、为什么要用BigDecimal去计算数据?原因在于我们的计算机是二进制的。浮点数(double、float )没有办法是用二进制进行精确表示。我们的CPU表示浮点数由两个部分组成:指数和尾数,这样的表示方法一般都会失去一定的精确度,有些浮点数运算也会产生一定的误差。

2、使用new BigDecimal 的方式去生成一个实例,也回出现误差,这是因为有些十进制浮点转化二进制,转化如(3),在对应的精确中,不能完全的转化为二进制,只能截取进度前面一部分(类似十进制1/3转化为小数),所以就出现误差。

 3、BigDecimal.valueOf(0.99)不会有精确问题,这是因为0.99直接转化为string类型,没有进行二进制的转化,直接转化成BigDecimal。

总结:使用浮点型计算数据时候,需要转化为BigDecimal,并且转化的方式尽量先转化成String类型,在new BigDecimal(string)

 

附录:参照以下内容

(1)https://blog.youkuaiyun.com/tr1912/article/details/79690099

(2)https://blog.youkuaiyun.com/qq_38218238/article/details/81316587

(3)https://jingyan.baidu.com/article/425e69e6e93ca9be15fc1626.html

    

转载于:https://www.cnblogs.com/yz-yang/p/10996356.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值