一、基础操作
加法 add()函数
减法subtract()函数
乘法multiply()函数
除法divide()函数
绝对值abs()函数
BigDecimal的ROUND_DOWN()中的坑
一、double类型精度缺失处理
由于计算小数,需要向下截取小数位,保留两位小数,但是用了ROUND_DOWN截取却出现了问题
public class Test {
public static void main(String args[]){
//0.03,0,06,0.09
double a = 0.09;
double b = new BigDecimal(a).setScale(2, BigDecimal.ROUND_DOWN).doubleValue();
System.out.println(b);
}
}
0.03->0.02,0.06->0.05, 0.09->0.08,但是如果是三位小数截取不会有问题,大于1,截取也不会有问题,只有2位小数截取两位有问题,使用BigDecimal.ROUND_HALF_DOWN可以避免这种情况。
这个原因在于使用了double类型的参数来进行转换,将double转换成String类型的,就可以转化正常了。感谢博友的提醒,csdn真是个好地方。
二、对于非金融领域货币的处理
在非金融类项目中对货币处理时, 一般取2位精度, 通常的设计方法是在运算过程中扩大100倍, 在需要展示时再缩小100倍, 减少精度带来的误差。所以此时价格可以设置为int型,不需要设置double型的。
参考文章:
https://blog.youkuaiyun.com/haiyinshushe/article/details/82721234
https://blog.youkuaiyun.com/hzr0523/article/details/80620610
BigDecimal精度处理与非金融场景下的货币运算
本文探讨了在进行小数运算时遇到的精度问题,特别是使用BigDecimal的ROUND_DOWN方法导致的误差。当处理double类型并需要向下截取小数位时,可能会出现不预期的结果。解决方案是避免使用double,直接转换为String类型操作。在非金融项目中,建议通过扩大100倍后再处理的方法来减少精度误差,并且可以用int类型表示价格。此外,还分享了避免精度问题的其他策略和参考资料。
369

被折叠的 条评论
为什么被折叠?



