java 小数精度相关

本文探讨了使用Double类型进行加减乘除运算时出现的精度丢失现象及其原因,并介绍了通过BigDecimal来解决该问题的方法,包括不同舍入模式的应用场景。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

最近在用double 加减乘除时发现存在丢失精度的情况(js vb 也存在这个情况)
具体原因与二进制表示有关
http://www.cnblogs.com/yewsky/articles/1864934.html

int a = 3;
double b = 0.03;
double c = 0.03;
double d = a + b + c;
System.out.println(“first d:” + d);
结果:first d:3.0599999999999996
为了解决这个情况,我们可以使用bigdecimal 进行数值计算比较等操作。

使用bigdecimal 进行四舍五入时要注意表名舍位的模式
参数定义

ROUND_CEILING
Rounding mode to round towards positive infinity.
向正无穷方向舍入

ROUND_DOWN
Rounding mode to round towards zero.
向零方向舍入

ROUND_FLOOR
Rounding mode to round towards negative infinity.
向负无穷方向舍入

ROUND_HALF_DOWN
Rounding mode to round towards “nearest neighbor” unless both neighbors are equidistant, in which case round down.
向(距离)最近的一边舍入,除非两边(的距离)是相等,如果是这样,向下舍入, 例如1.55 保留一位小数结果为1.5

ROUND_HALF_EVEN
Rounding mode to round towards the “nearest neighbor” unless both neighbors are equidistant, in which case, round towards the even neighbor.
向(距离)最近的一边舍入,除非两边(的距离)是相等,如果是这样,如果保留位数是奇数,使用ROUND_HALF_UP ,如果是偶数,使用ROUND_HALF_DOWN

ROUND_HALF_UP
Rounding mode to round towards “nearest neighbor” unless both neighbors are equidistant, in which case round up.
向(距离)最近的一边舍入,除非两边(的距离)是相等,如果是这样,向上舍入, 1.55保留一位小数结果为1.6

ROUND_UNNECESSARY
Rounding mode to assert that the requested operation has an exact result, hence no rounding is necessary.
计算结果是精确的,不需要舍入模式

ROUND_UP
Rounding mode to round away from zero.
向远离0的方向舍入

另外bigdecimal做除法运算要保留小数,否则遇到除不尽会报错,而且一个公式中有乘法除法一定要最后算除法,且最好将a/b/c转换成a/(b*c)否则会有精度问题。
默认为ROUND_HALF_EVEN 银行家舍位(vb 的round ,js 的format 也是)。
http://www.cnblogs.com/liqforstudy/p/5652517.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值