今天用BigDecimal 遇到一个小坑,特地在此mark一下,踩坑的各位道友可看看。
直接上错误代码
String a = "2";
BigDecimal b = new BigDecimal(a);
BigDecimal c = BigDecimal.valueOf(10.82930);
BigDecimal d = b.divide(c,RoundingMode.HALF_DOWN);
System.out.println(a);
System.out.println(b);
System.out.println(c);
System.out.println(d);
看似没有啥问题,但是运行起来d会一直等于0,暂时不知道什么原因,待老衲日后细细琢磨琢磨。
解决方法:
把a改为带小数点的字符串就正常了,如"2.0","2.0382",但是坑又来了,此时d的小数位完全取决于字符串a的小数点位!
本文记录了一个使用BigDecimal进行除法运算时遇到的微妙问题。当除数为特定的BigDecimal值时,结果可能始终为0,即使数学上不应如此。解决方法涉及调整被除数的精度,但会导致结果的小数位数依赖于被除数的格式。这是一篇针对Java开发者,特别是那些处理财务计算的程序员的技术笔记。
363

被折叠的 条评论
为什么被折叠?



