简单小问题,哪种方式会输出0.00?

本文通过一个实际例子探讨了在Java中使用BigDecimal设置小数位时可能会遇到的问题。分析了两种不同的设置方式导致输出结果不同的原因,强调了对源码理解和谨慎操作的重要性,特别是考虑到BigDecimal在精度计算中的关键作用,避免在处理金钱等精度敏感数据时出错。

看完这篇文章,你将在程序员的生涯中又少走一个坑。

哪种方式会输出0.00?

今天在认真敲代码的时候,钉钉的图标突然跳动了起来。

肯定是哪个不长眼的同事来找我尬聊?没看到我在努力码字么?不知道我是个认真工作的人么?

我心里如是想着。

当我点开的时候,就更有兴趣了。

原来是我们的组长在我们小组群里提出了个小问题。作为下午甜点?

然后我就踊跃的发言了:第二个!

当时没有多想,就是觉得两行代码总归比一行代码靠谱v

那么我的猜测对不对呢?写个demo验证下

// 哪个BigDecimal对象会打印出来0.00?
BigDecimal a = new BigDecimal("0").setScale(2, RoundingMode.HALF_EVEN);
BigDecimal b = new BigDecimal("0");
b.setScale(2, RoundingMode.HALF_EVEN);

System.out.println("a ---> " + a);
System.out.println("b ---> " + b);

然后,结果是显而易见的,我的回答是错误的,应该是方式1,难受。

为什么是第一种方式输出0.00!

知道结果去推测出现结果的原因永远比不知道结果去推测结果靠谱

那我们就来分析一下为什么?

有两个出发点去分析

  • 直接去看源码,看看setScale方法到底做了啥
  • 分析这两种方式有啥不同

看源码

果断点进setScale方法看起了源码,首先映入眼帘的是他的返回值,竟然是BigDecimal。所以这个方法返回的是原来的对象还是一个新的对象呢?带着这个疑问我继续往下看。

这时,一行代码瞬间消除了我的疑问!原来当新设置的小数位大于原来的小数位会重新创建一个BigDecimal并返回

越来越接近答案了,源码看完了,我们接着来分析下两种方式的不同。

两种方式有啥不同

首先两种方式分别对应着两个临时变量a和b,再结合上面分析的源码分析一下两种方式的不同之处。

临时变量a

BigDecimal a = new BigDecimal("0").setScale(2, RoundingMode.HALF_EVEN)

  • 先是创建了"0"的BigDecimal对象,假设为A1;

  • 然后对A1对象通过setScale方法设置小数保留位,这是产生了新的对象,假设为A2;

  • 最后是将A2对象赋值给临时变量a。

临时变量b

BigDecimal b = new BigDecimal("0");
b.setScale(2, RoundingMode.HALF_EVEN);

  • 先是创建了"0"的BigDecimal对象,假设为B1;

  • 然后是将B1对象赋值给临时变量b;

  • 接着对B1对象通过setScale方法设置小数保留位,这是产生了新的对象,假设为B2;

  • 但是临时变量b依旧指向的是B1对象,B2对象没有被任何临时变量接收。

综上所述,实际上打印的对象是不一样的,输出0.00的原因是,临时变量指向的是设置小数点保留位数后新生成的BigDecimal对象。

结语

虽然这是一个很简单的问题,但平时的使用中还是很容易被忽视的。而这个问题如果忽略了,可能就是一个大坑。因为既然使用了BigDecimal对象,基本上都是进行一些精度较高的运算,而精度较高的运算很可能就涉及到金钱了,如果出问题就是很大的问题。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值