BigDecimal精确计算及陷阱
BigDecimal通常在涉及到精确计算的时候会用到,下面是自己多次错误使用BigDecimal的总结。
结论:
- BigDecimal初始化小数时,尽量使用字符串形式,例如new BigDecimal(“0.1”);
- BigDecimal类型变量比较大小时用compareTo方法,判断值是否为0,与BigDecimal.zero比较大小。
- BigDecimal作除法时,除了要考虑除数是否为0,更要考虑是否能除尽的问题,直接调用BigDecimal.divide(BigDecimal divisor,int scale,int roundingMode)方法做除法可以避免除不尽的问题。
初始化BIgDecimal变量:
//BigDecimal初始化
public static void testBigDecimal(){
BigDecimal num1 = new BigDecimal(0.1);
System.out.println("坑点1:num1="+num1); //坑点1:num1=0.1000000000000000055511151231257827021181583404541015625
BigDecimal num2 = new BigDecimal("0.1");
System.out.println("正确写法:num2="+num2); //正确写法 num2=0.1
}
结论:尽量用字符串的形式初始化,因为小数在计算机内部根本没法精确表示。
比较大小
比较BigDecimal类型的变量和0的大小,用compareTo,不用equals:
if(num1.compareTo(BigDecimal.ZERO)>0)
if(num1.compareTo(BigDecimal.ZERO)<0)
if(num1.compareTo(BigDecimal.ZERO)==0)
//比较大小
public static void testBigDecimalCompareTo(){
BigDecimal num1 = new BigDecimal("0.1");
BigDecimal num2 = new BigDecimal("0.100");
if(!num1.equals(num2)){
System.out.println("坑点1,用equals比较大小,num1="+num1+",num2="+num2+"【不相等】");
}
if(!(num1 == num2)){
System.out.println("坑点2,用==运算符比较大小,num1="+num1+",num2="+num2+"【不相等】");
}
if(num1.compareTo(num2)==0){
System.out.println("正确比较大小,用compareTo,num1="+num1+",num2="+num2+"【相等】");
}
}
结论:比较大小或者值是否相等,用compareTo方法
BigDecimal除法
在出现除不尽的时候,会出现问题,例如1/3的问题:
//BigDecimal除法
public static void testBigDecimalDivide(){
BigDecimal num1 = new BigDecimal("1");
//坑点:Exception in thread "main" java.lang.ArithmeticException:Non-terminating decimal expansion;no exact representable decimal result.
//System.out.println("坑点写法1:"+num1.divide(new BigDecimal("3")));
//System.out.println("坑点写法2:"+num1.divide(new BigDecimal("3")).setScale(2,BigDecimal.ROUND_DOWN));
System.out.println("正确写法:"+num1.divide(new BigDecimal("3")),2,BigDecimal.ROUND_HALF_DOWN));
}
结论:只有在divide的时候就设置好要精确的小数位数和舍入模式,才能避免出现无法精确表达除不尽的问题。