Non-terminating decimal expansion; no exact representable decimal result

最近在需求中需要用到精度比较高的浮点数,使用BigDecimal类来处理

在使用除法的时候遇到了Non-terminating decimal expansion; no exact representable decimal result这个错误,经过网上查阅资料解决了这个问题

错误是 无法结束的除法表达式;没有精确的除结果,原因是被除数无法被除尽,类似10/3 = 3.33333······


错误的写法
BigDecimal num1 = new BigDecimal("10");
BigDecimal num2 = new BigDecimal("3");
BigDecimal num3 = num1.divide(num2);

divide函数定义

public BigDecimal divide(BigDecimal divisor, int scale, int roundingMode)

  • scale为小数位数;

  • roundingMode为小数模式;

    ROUND_CEILING
    如果 BigDecimal 是正的,则做 ROUND_UP 操作;如果为负,则做 ROUND_DOWN 操作。
    ROUND_DOWN
    从不在舍弃(即截断)的小数之前增加数字。
    ROUND_FLOOR
    如果 BigDecimal 为正,则作 ROUND_UP ;如果为负,则作 ROUND_DOWN 。
    ROUND_HALF_DOWN
    若舍弃部分> .5,则作 ROUND_UP;否则,作 ROUND_DOWN 。
    ROUND_HALF_EVEN
    如果舍弃部分左边的数字为奇数,则作 ROUND_HALF_UP ;如果它为偶数,则作 ROUND_HALF_DOWN 。
    ROUND_HALF_UP
    若舍弃部分>=.5,则作 ROUND_UP ;否则,作 ROUND_DOWN 。
    ROUND_UNNECESSARY
    该“伪舍入模式”实际是指明所要求的操作必须是精确的,,因此不需要舍入操作。
    ROUND_UP
    总是在非 0 舍弃小数(即截断)之前增加数字。

正确写法
BigDecimal num1 = new BigDecimal("10");
BigDecimal num2 = new BigDecimal("3");
BigDecimal num3 = num1.divide(num2,10,ROUND_DOWN);
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值